요즘 이름 좀 있는 테크 기업들은 모두 AI 윤리 위원회를 자랑합니다. 구글, 마이크로소프트, 페이스북(메타), 아마존... 끝이 없죠. 이들은 공정성, 투명성, 책임감을 보장하며 책임감 있는 AI 개발의 수호자가 되어야 합니다. 하지만 솔직하게 말해봅시다. 이 위원회들은 종종 규제 당국을 달래고 대중의 우려를 잠재우기 위해 만들어진 홍보용일 뿐이며, AI 열차는 아무런 제지 없이 질주하고 있습니다.

구글의 팀닛 게브루를 기억하십니까? 뛰어난 AI 윤리학자였던 그녀는 대규모 언어 모델의 환경적, 윤리적 영향에 대한 우려를 제기한 논문을 공동 집필한 후 불명예스럽게 해고되었습니다. 이는 고립된 사건이 아닙니다. 많은 내부 고발자와 윤리학자들이 자신의 연구나 우려가 수익에 위협이 될 때 비슷한 반발에 직면했습니다.

이러한 윤리 위원회는 종종 실질적인 권한이 없는 사람들로 구성됩니다. 이들은 종종 자금이나 계약을 기업에 의존하는 학계 또는 컨설턴트입니다. 이는 본질적인 이해 상충을 야기합니다. 생계가 기업의 지속적인 성공에 달려 있는데 어떻게 진정으로 기업에 책임을 물을 수 있을까요?

2021년에 샌프란시스코에서 열린 AI 윤리 컨퍼런스에 참석했던 기억이 납니다. 패널들은 공정성과 포용성에 대한 고상한 이상을 쏟아내는 선량한 사람들로 가득 차 있었습니다. 그러나 비공개 회의에서 대화는 훨씬 더 냉소적이었습니다. 많은 사람들이 자신의 회사 내에서 자신의 영향력이 제한적이며 자신의 우려가 종종 묵살되거나 무시된다는 것을 사적으로 인정했습니다.

이윤 동기의 승리

가혹한 현실은 기업은 이윤에 의해 움직인다는 것입니다. 윤리적 고려 사항은 종종 부차적이거나 심지어 3차적입니다. AI 시스템이 편향되거나 차별적이거나 해롭더라도 더 많은 수익을 창출할 수 있다면 종종 필요한 악으로 간주됩니다. 치열한 AI 시장에서 경쟁해야 한다는 압박은 엄청나며, 윤리적 타협은 종종 혁신과 발전이라는 이름으로 이루어집니다.

얼굴 인식 기술에 AI가 사용되는 것을 생각해 보십시오. 인종적 편견과 남용 가능성에 대한 압도적인 증거에도 불구하고 전 세계 법 집행 기관과 기업에서 사용되고 있습니다. 왜일까요? 수익성이 있기 때문입니다. 효율적입니다. 대량 감시와 통제를 가능하게 합니다.

문제는 AI 윤리 위원회가 본질적으로 나쁘다는 것이 아닙니다. 근본적으로 결함이 있는 시스템 내에서 운영되고 있다는 것입니다. 사람보다 이윤을, 윤리보다 혁신을, 자유보다 통제를 우선시하는 시스템입니다. 이러한 시스템적 문제를 해결하지 않는 한 AI 윤리 위원회는 깊고 광범위한 문제에 대한 피상적인 해결책으로 남을 것입니다.

거짓된 안정감

이러한 위원회의 존재는 대중에게 거짓된 안정감을 심어줍니다. 사람들은 기업에 AI 윤리 위원회가 있기 때문에 AI 시스템이 본질적으로 안전하고 책임감이 있다고 생각합니다. 이는 사실이 아닙니다. 이러한 위원회는 종종 근본적인 윤리적 문제를 가리고 실제 책임을 방지하는 연막 역할을 합니다.

기업의 홍보 공세에 속지 마십시오. AI 윤리 위원회가 진정으로 여러분을 보호하고 있다고 생각하지 마십시오. 투명성, 책임감, 그리고 진정한 변화를 요구하십시오. 그때까지는 회의적이고 경계심을 유지하십시오. AI의 미래는 거기에 달려 있습니다.

무엇이 바뀌어야 할까요?

AI 윤리 위원회가 기업의 연극 그 이상이 되려면 몇 가지 근본적인 변화가 필요합니다.

독립적인 감독: 위원회는 자금이나 고용에 대해 기업에 빚지지 않은 구성원으로 진정으로 독립적이어야 합니다.
실질적인 권한: 위원회는 용납할 수 없는 윤리적 위험을 초래하는 AI 프로젝트를 거부할 권한이 있어야 합니다.
투명성: 위원회의 심의와 결정은 대중에게 공개되어 더 큰 감시와 책임감을 가질 수 있도록 해야 합니다.
법적 의무: 윤리 심사 위원회는 법적 의무가 있어야 합니다. 기업에 윤리 지침을 시행하고 내부 고발자 보호를 제공할 수 있도록 법으로 권한을 부여받아야 합니다.

하지만 이러한 변화조차 충분하지 않을 수 있습니다. 궁극적으로 우리는 가치관의 근본적인 변화가 필요합니다. 우리는 이윤보다 윤리를, 기술보다 사람을, 통제보다 자유를 우선시해야 합니다. 그래야만 AI가 소수의 이익을 위해 다수의 희생을 담보하는 것이 아니라 선을 위해 사용될 수 있도록 보장할 수 있습니다.

며칠 전에 친구와 커피를 마시면서 이 문제에 대해 이야기했습니다. 그는 대기업에 다니는데, 그 회사에도 AI 윤리 위원회가 있다고 하더군요. 그런데 친구 말로는, 그 위원회는 그냥 “보여주기 식”이라고 하더군요. 실제로 중요한 결정을 내리는 데는 아무런 영향력도 없대요. 그냥 회사 이미지를 좋게 만들려고 만든 것 같다는 이야기를 들으면서, 정말 씁쓸했습니다. 우리가 이렇게 속고 살아야 하나 싶기도 하고요.

정말 조심해야 합니다. AI 윤리 위원회가 있다고 해서 안심하면 안 돼요. 오히려 더 의심하고, 더 감시해야 합니다. 그래야 우리가 AI의 위험으로부터 스스로를 지킬 수 있습니다. 그렇지 않으면, 우리는 AI에 의해 조종당하는 세상에서 살게 될지도 모릅니다. 그런 미래는 정말 끔찍합니다.

지금 당장 행동해야 합니다. 정치인들에게 압력을 가하고, 기업들에게 책임을 요구해야 합니다. 그리고 우리 스스로도 AI에 대해 더 많이 배우고, 비판적인 시각을 가져야 합니다. 그래야 AI가 우리의 삶을 더 나은 방향으로 이끌 수 있도록 할 수 있습니다.