요즘 이름 좀 있는 테크 기업들은 모두 AI 윤리 위원회를 자랑합니다. 구글, 마이크로소프트, 페이스북(메타), 아마존... 끝이 없죠. 이들은 공정성, 투명성, 책임감을 보장하며 책임감 있는 AI 개발의 수호자가 되어야 합니다. 하지만 솔직하게 말해봅시다. 이 위원회들은 종종 규제 당국을 달래고 대중의 우려를 잠재우기 위해 만들어진 홍보용일 뿐이며, AI 열차는 아무런 제지 없이 질주하고 있습니다.

구글의 팀닛 게브루를 기억하십니까? 뛰어난 AI 윤리학자였던 그녀는 대규모 언어 모델의 환경적, 윤리적 영향에 대한 우려를 제기한 논문을 공동 집필한 후 불명예스럽게 해고되었습니다. 이는 고립된 사건이 아닙니다. 많은 내부 고발자와 윤리학자들이 자신의 연구나 우려가 수익에 위협이 될 때 비슷한 반발에 직면했습니다.

이러한 윤리 위원회는 종종 실질적인 권한이 없는 사람들로 구성됩니다. 이들은 종종 자금이나 계약을 기업에 의존하는 학계 또는 컨설턴트입니다. 이는 본질적인 이해 상충을 야기합니다. 생계가 기업의 지속적인 성공에 달려 있는데 어떻게 진정으로 기업에 책임을 물을 수 있을까요?

2021년에 샌프란시스코에서 열린 AI 윤리 컨퍼런스에 참석했던 기억이 납니다. 패널들은 공정성과 포용성에 대한 고상한 이상을 쏟아내는 선량한 사람들로 가득 차 있었습니다. 그러나 비공개 회의에서 대화는 훨씬 더 냉소적이었습니다. 많은 사람들이 자신의 회사 내에서 자신의 영향력이 제한적이며 자신의 우려가 종종 묵살되거나 무시된다는 것을 사적으로 인정했습니다.

이윤 동기의 승리

가혹한 현실은 기업은 이윤에 의해 움직인다는 것입니다. 윤리적 고려 사항은 종종 부차적이거나 심지어 3차적입니다. AI 시스템이 편향되거나 차별적이거나 해롭더라도 더 많은 수익을 창출할 수 있다면 종종 필요한 악으로 간주됩니다. 치열한 AI 시장에서 경쟁해야 한다는 압박은 엄청나며, 윤리적 타협은 종종 혁신과 발전이라는 이름으로 이루어집니다.

얼굴 인식 기술에 AI가 사용되는 것을 생각해 보십시오. 인종적 편견과 남용 가능성에 대한 압도적인 증거에도 불구하고 전 세계 법 집행 기관과 기업에서 사용되고 있습니다. 왜일까요? 수익성이 있기 때문입니다. 효율적입니다. 대량 감시와 통제를 가능하게 합니다.

문제는 AI 윤리 위원회가 본질적으로 나쁘다는 것이 아닙니다. 근본적으로 결함이 있는 시스템 내에서 운영되고 있다는 것입니다. 사람보다 이윤을, 윤리보다 혁신을, 자유보다 통제를 우선시하는 시스템입니다. 이러한 시스템적 문제를 해결하지 않는 한 AI 윤리 위원회는 깊고 광범위한 문제에 대한 피상적인 해결책으로 남을 것입니다.

거짓된 안정감

이러한 위원회의 존재는 대중에게 거짓된 안정감을 심어줍니다. 사람들은 기업에 AI 윤리 위원회가 있기 때문에 AI 시스템이 본질적으로 안전하고 책임감이 있다고 생각합니다. 이는 사실이 아닙니다. 이러한 위원회는 종종 근본적인 윤리적 문제를 가리고 실제 책임을 방지하는 연막 역할을 합니다.

기업의 홍보 공세에 속지 마십시오. AI 윤리 위원회가 진정으로 여러분을 보호하고 있다고 생각하지 마십시오. 투명성, 책임감, 그리고 진정한 변화를 요구하십시오. 그때까지는 회의적이고 경계심을 유지하십시오. AI의 미래는 거기에 달려 있습니다.

무엇이 바뀌어야 할까요?

AI 윤리 위원회가 기업의 연극 그 이상이 되려면 몇 가지 근본적인 변화가 필요합니다.

독립적인 자금 조달: 윤리 위원회는 감독하는 회사와 독립적으로 자금을 조달해야 합니다. 이는 정부 보조금, 자선 기부 또는 이 둘의 조합을 통해 이루어질 수 있습니다.
실질적인 권한: 윤리 위원회는 비윤리적이거나 해롭다고 판단되는 프로젝트에 대해 거부권을 행사할 수 있는 권한이 필요합니다. 이 권한은 회사의 정관에 명시되어야 하며 독립적인 기관에서 시행해야 합니다.
다양한 대표: 윤리 위원회는 윤리학자, 변호사, 기술 전문가 및 지역 사회 대표를 포함한 다양한 전문가 그룹으로 구성되어야 합니다. 이를 통해 다양한 관점을 고려할 수 있습니다.
투명성: 윤리 위원회는 심의 및 결정에 대해 투명해야 합니다. 회의록, 보고서 및 권장 사항은 공개적으로 제공되어야 합니다.

대안은 무엇일까요? AI가 착취, 조작 및 통제에 사용되는 미래입니다. 윤리적 고려 사항이 이윤의 제단에서 희생되는 미래입니다. 저 혼자서는 받아들일 수 없는 미래입니다. 정신 차리세요, 여러분.

AI 윤리 위원회가 더 나은 역할을 하기 위해서는 독립성과 권한이 강화되어야 합니다. 기업들은 스스로를 감시하는 기관에 진정한 힘을 실어줘야 합니다. 하지만 지금까지 보여준 행태를 보면, 그런 날이 올 거라고 믿기는 어렵습니다. 여전히 회의적인 시각을 유지해야 합니다.

정말 변화를 원한다면, 기업의 '윤리'적 행보를 감시하고, 투명성을 요구하며, 책임감 있는 AI 개발을 위한 목소리를 높여야 합니다. 그렇지 않으면, 우리는 그저 AI의 폭주를 지켜볼 수밖에 없을 겁니다. 그 폭주가 우리 사회를 짓밟는 동안 말이죠.

개인적으로, 저는 AI 윤리 위원회가 진정으로 윤리적인 AI 개발을 이끌어갈 수 있을지 여전히 의문입니다. 너무 많은 이해관계가 얽혀 있고, 이윤 추구의 압력이 너무 강합니다. 하지만 희망을 버릴 수는 없습니다. 진정한 변화를 위해 계속 싸워야 합니다. 우리 모두의 미래를 위해서 말이죠.

그러니 다음 번에 어떤 기업이 AI 윤리 위원회를 자랑스럽게 내세우는 것을 보게 된다면, 잠시 멈춰서 진실을 파헤쳐 보십시오. 그 위원회가 진정으로 독립적이고, 권한이 있고, 투명한지 확인하십시오. 그렇지 않다면, 그것은 그저 또 다른 윤리 워싱의 사례일 뿐일 겁니다.