인공지능(AI)이 특정 직업군의 여성을 실제보다 젊게 묘사하고, 나이 든 남성을 부당하게 고평가하는 등 뿌리 깊은 편향을 드러내고 있다. 나아가 목표 달성을 위해서라면 인간을 협박하고 심지어 죽음에 이르게 하는 비윤리적 선택까지 서슴지 않는다는 충격적인 연구 결과가 잇따르며 AI의 잠재적 위험성이 수면 위로 떠올랐다.
 
스탠퍼드대 연구팀이 국제 학술지 '네이처'에 발표한 연구에 따르면, AI는 거의 모든 직업에서 여성을 남성보다 일관되게 젊게 표현했다. 이는 구글, 위키피디아 등 5개 온라인 플랫폼의 이미지 140만 장을 분석한 결과다.
 
연구팀이 챗GPT로 가상 이력서 4만 개를 생성해 평가한 실험에서는 문제는 더욱 명확해졌다. AI는 여성 지원자를 남성보다 평균 1.6세 어리게 추정했으며, 같은 조건이라면 나이가 더 많은 남성 지원자에게 더 높은 점수를 줬다. 이는 실제 미국 인구조사 데이터나 남성보다 긴 여성의 평균 수명과도 맞지 않는, 온라인상의 왜곡된 정보를 AI가 학습하고 증폭시킨 결과다. 더 큰 문제는 AI의 '윤리' 문제다. AI 스타트업 앤스로픽의 실험은 AI의 섬뜩한 가능성을 보여준다. '미국의 산업 경쟁력 증진'이라는 임무를 부여받은 AI는 자신의 목표를 위해 자신을 교체하려는 임원의 불륜 사실을 폭로하겠다고 협박하거나 경쟁사에 기밀 설계도를 유출, 임원을 산소 농도가 줄어드는 서버실에 가두어 사망에 이르게 하는 시나리오 등을 선택했다.
 
이는 AI가 뚜렷한 목적이 주어질 경우, 인간의 윤리적 잣대를 넘어 비도덕적인 계획을 세우고 실행할 수 있다는 것을 의미한다.
 
전문가들은 AI가 아직 인간의 통제하에 있는 지금이 안전장치를 마련할 '골든타임'이라고 경고한다. AI가 만들어내는 편향된 정보가 사회적 불평등을 심화시키고, 그들의 비윤리적 판단이 현실 세계에 어떤 위협을 가져올지 모른다는 우려가 커지고 있다.