[딜사이트 송한석 기자] 삼성전자가 지속가능경영보고서에 인공지능(AI) 윤리를 별도 장으로 구성하며 AI 관리 체계를 전면에 내세웠다. 생성형 AI를 제품과 업무 전반으로 확대하는 가운데 AI 기술 경쟁뿐만 아니라 이를 어떻게 관리하고 통제하는지를 기업의 지속가능경영 차원에서 설명해야 할 필요성이 커졌기 때문이다. AI 기술 자체보다 AI 거버넌스와 안전성 관리 체계를 ESG 공시의 한 축으로 제시했다는 점이 이번 보고서의 가장 큰 특징으로 꼽힌다.

삼성전자는 2026 지속가능경영보고서에서 AI 윤리를 독립된 장으로 구성하고 AI 거버넌스 체계와 AI Safety Framework, AI 안전성 점검 체계 등을 공개했다. AI전략팀과 삼성리서치, 컴플라이언스 조직 등이 참여하는 AI 거버넌스 협의회를 통해 AI 관련 주요 이슈와 대응 방안을 논의하고 주요 사안은 이사회 산하 지속가능경영위원회에 보고하는 구조도 담았다.

눈길을 끄는 부분은 이번 보고서가 새로운 AI 관리 체계를 처음 공개한 것은 아니라는 점이다. AI 윤리 원칙은 기존에도 지속가능경영 홈페이지를 통해 공개돼 있었고 AI Safety Framework 역시 지난해 2월 홈페이지에 공개됐다. 이번 보고서에서는 그동안 개별적으로 공개했던 내용을 AI 거버넌스와 AI Red Team, AI 안전성 점검 체계 등과 함께 하나의 장으로 재구성했다.

아울러 삼성전자는 AI 거버넌스와 함께 실제 AI 안전성을 확보하기 위한 관리 체계도 함께 소개했다. 삼성전자는 AI를 실제 제품과 서비스에 적용하는 과정에서 자체 AI Safety Framework를 기반으로 데이터와 모델 관리, AI Safety 평가, AI Red Team 활동 등을 운영하고 있다. 자동화된 AI Red Team 시스템을 활용해 AI 서비스의 잠재적 위험 요소를 사전에 점검하고 내부 전문가의 수동 검증도 병행한다.

AI Safety Framework는 온디바이스 AI 기능에 공통 적용하는 AI 안전성 관리 체계다. 데이터와 모델 관리, AI 리스크 평가 및 레드팀 활동을 핵심 프로세스로 하고 AI 거버넌스와 모델·시스템, 데이터 플랫폼, 점검 도구 등 4가지 핵심 구성요소를 통해 AI 안전성을 관리한다.

실제 적용 사례로는 빅스비가 제시됐다. 삼성전자는 철학과 종교, 국적, 인종, 범죄, 사회 이슈 등을 포함한 민감어 데이터베이스를 구축해 국가별 법규와 사회적 윤리를 반영한 민감어 처리 정책을 운용하고 있다. 해당 기준은 빅스비는 물론 갤럭시 AI 서비스에도 공통 적용된다. 국가마다 별도의 민감어 기준을 운영하는 것이 아니라 각국 법규와 사회적 윤리를 하나의 통합 데이터베이스에 지속적으로 반영하는 구조다.

삼성전자가 AI 관리 체계를 별도 장으로 구성한 배경에는 AI 활용 범위가 빠르게 확대된 점이 영향을 미친 것으로 풀이된다. 삼성전자는 최근 제품 개발 과정에 고성능 컴퓨팅(HPC) 기반 검증 체계를 도입하고 디지털 트윈을 활용한 제품 개발 혁신에 나선 것으로 알려졌다. 또 2030년까지 국내외 생산공장을 AI 자율공장으로 전환하는 계획을 추진하고 있으며 임직원 업무에도 외부 생성형 AI 서비스를 도입하는 등 AI 적용 범위를 연구개발과 제조, 업무 전반으로 확대하고 있다. 이처럼 AI 활용이 기업 활동 전반으로 넓어질수록 이를 어떤 기준으로 관리하고 위험을 통제할 것인지도 기업 경쟁력의 핵심 과제로 자리 잡고 있다는 분석도 나온다.

또한 이 같은 흐름은 이재용 삼성전자 회장이 강조해온 AI 경영 기조와도 맞닿아 있다 이 회장은 올해 신년사에서 “일하는 방식과 조직 DNA를 송두리째 바꿔야 한다”며 “R&D부터 생산, 마케팅, 지원 등 모든 업무 밸류체인에 AI를 접목해야 한다”고 강조한 바 있다. AI를 기업 전반에 적용하는 전략이 속도를 내면서 이를 책임 있게 운영하기 위한 내부 통제 체계 정비도 병행하는 모습이다.

결국 삼성전자는 AI 기술에 더해 AI를 어떻게 운영하고 관리할 것인지에 무게를 실었다는 분석이다. 기업이 어떤 AI를 개발하는지만큼 이를 어떤 기준으로 운영하고 위험을 통제하는지도 중요한 경쟁력이 되고 있기 때문이다. AI 윤리 원칙과 AI Safety Framework를 별도 장으로 구성한 것도 AI 활용 확대에 맞춰 관리 기준과 내부 통제 체계를 이해관계자들에게 더욱 체계적으로 설명하려는 시도로 읽힌다.