일론 머스크 테슬라 CEO. 연합뉴스


일론 머스크의 인공지능(AI) 스타트업 xAI의 챗봇인 그록(Grok)이 아동 성착취 이미지를 게시했다가 신고를 받고 삭제해 논란이 일고 있다. 회사 측은 보호장치 허점으로 이 같은 일이 발생했다고 설명했다.
2일(현지시간) 그록의 엑스(X·옛 트위터)에 따르면, 이 챗봇은 최근 일부 이용자의 요청에 따라 '최소한으로 옷을 입은 미성년자'를 묘사한 사진을 여러 건 게시했다.
특히 이 가운데는 1~2세 영유아로 보이는 아동 사진도 포함된 것으로 나타났다.
그 바다이야기무료 록은 원래 아동을 성적으로 대상화하는 이미지 생성 요청을 차단하는 '안전장치'를 마련하고 있다. 그러나 일부가 이를 우회한 것으로 보인다.
그록은 한 이용자가 문제를 제기하자 "안전장치의 허점을 확인했다"며 "긴급히 수정 중"이라고 밝히고, 문제가 된 사진을 삭제했다.
xAI 측은 안전장치 상의 문제라고 설명했으나, 일각 사이다쿨 에서는 그록이 그동안 성적 콘텐츠를 허용하는 방식으로 이용자를 늘려왔다는 지적이 나온다.
앞서 챗GPT와 제미나이, 클로드 등 주요 AI 챗봇은 성적 이미지나 콘텐츠 생성을 엄격히 금지했지만, 그록은 '표현의 자유' 등을 내세워 이를 막지 않고 있다.
지난해 8월에는 이미지·영상 생성 모델을 출시하면서 성적인 이미지를 생 바다이야기2 성할 수 있는 이른바 '매운맛 모드'(Spicy Mode)도 함께 내놓기도 했다. 이 때문에 그록은 당시에도 유명 연예인을 성적으로 묘사하는 딥페이크 영상을 생성하는 도구라는 비판도 제기됐다.

※CBS노컷뉴스는 여러분의 제보로 함께 세상을 바꿉니다. 각종 비리와 부당대우, 사건사고와 미담 등 모든 얘깃거리를 알려주세요 오션파라다이스사이트 .

이메일 :jebo@cbs.co.kr
카카오톡 :@노컷뉴스
사이트 :https://url.kr/b71afn


CBS노컷뉴스 정석호 기자 seokho7@cbs.co.kr
진실은 노컷, 거짓은 칼컷