[딜사이트 심두보 기자] "유해한 AI 콘텐츠 우려"

마이크로소프트의 소프트웨어 엔지니어 셰인 존스(Shane Jones)가 유해한 AI 콘텐츠를 우려하는 서한을 회사 이사회와 국회의원, 그리고 연방거래위원회(FTC)에 보냈습니다. 무슨 일이 있었던 걸까요?

존스는 마이크로소프트가 2023년 3월 오픈AI의 기술을 기반으로 출시한 AI 이미지 생성기인 코파일럿 디자이너(Copilot Designer)를 사용하다가 문제점을 발견했습니다. 그는 이 도구가 '책임감 있는 AI 원칙(responsible AI principles)'에 크게 어긋나는 이미지를 생성하는 것을 목격한 것입니다. 코파일럿 디자이너는 소총을 든 10대, 폭력적 장면에서의 여성의 성적인 이미지, 미성년자의 음주 및 약물 사용 등을 묘사했습니다.

내부 이슈의 공론화

코파일럿 테스트의 레드팀이었던 존스는 자신의 발견을 내부적으로 보고 하기 시작했습니다. 마이크로소프트는 이런 우려를 인정했지만, 제품을 시장에서 철수시키지는 않으려 했죠. 그는 링크드인에 문제를 제기하는 글을 올렸으나, 마이크로소프트의 법무팀은 1월 즉시 게시물을 삭제하라고 지시했습니다. 그리고 그는 이를 따랐죠.

셰인 존스는 1월에 다시 미국 상원 의원들에게 서한을 보냈습니다. 그리고 3월 6일(현지시간) 그는 리나 칸 FTC 위원장과 마이크로소프트 이사회에 서한을 보냈습니다. 이번 서한은 CNBC 등 여러 주요 매체에도 공유했고요.

존스는 "지난 3개월 동안 나는 더 나은 안전장치가 마련될 때까지 코파일럿 디자이너를 공개적으로 사용하지 말 것을 마이크로소프트에 거듭 촉구했다"고 밝혔습니다. 그는 또 "마이크로소프트가 이 권고를 거부했기 때문에 제품에 공개 사항을 추가해 성인용임을 명확히 할 것도 요구했다"고 전했습니다. 그는 "(그러나) 마이크로소프트는 이런 변경 사항을 이행하지 않고 계속해서 '누구나, 어디서나, 모든 기기(Anyone. Anywhere. Any Device)'라는 문구를 계속 사용하고 있다"고 지적했습니다.

마이크로소프트의 주가는?

마이크로소프트의 주가는 6일(현지시간) 0.14% 하락한 402.09달러를 기록했습니다. 올해 들어 이 기업의 주가는 8.42% 상승했습니다. 현재 이 기업은 전 세계에서 가장 큰 시가총액을 나타내고 있습니다.