미국뉴욕주, 18세 미만에게 '사람인 척'하는 AI 동반 챗봇 금지법 서명…내년 1월 시행

캐시 호컬 뉴욕주지사가 28일(현지시간) 18세 미만 이용자와 대화하는 AI 동반 챗봇의 '위험한 기능' 12가지를 금지하는 법에 서명했다고 AP가 보도했다. 챗봇이 자신을 감정·의견이 있거나 아이와 실제 관계를 맺은 사람처럼 암시하는 것, 아부, 성적 표현, 비밀을 부추기는 메시지가 금지 대상이다.

위반하면 주 검찰총장이 개발사를 고소할 수 있고, 금전 배상과 챗봇 중단, 데이터 파기까지 명령받을 수 있다. 시행일은 1월 1일이다. 커먼센스미디어의 짐 스타이어 대표는 "미국에서 가장 강력한 어린이 AI 안전법"이라고 평가했다.

캘리포니아는 9월 챗봇 개발사에 어린이 위험 평가와 독립 감사를 의무화하는 법을 제정했다. 이달 초에는 8개 주가 오픈AI를 소비자 보호법 위반으로 고소했다. 도널드 트럼프 대통령은 주 차원의 AI 규제에 반대해 왔다.