챗봇1 AI의 '환각' 사람 음성 받아적는 AI도 '환각' 보여…"없는 말 지어내"2024.04.28 18:00 인공지능(AI) 챗봇이나 음성을 텍스트로 변환하는 AI는 정보를 지어내거나 조작하는 '환각' 증상을 보이는 경우가 있다.게티이미지뱅크 인공지능(AI) 챗봇이 때때로 잘못된 정보를 지어내거나 조작하는 '환각'을 보인다는 사실은 이미 잘 알려진 문제다.최근 음성을 텍스트로 바꾸는 AI 모델도 같은 증상을 보여준다는 연구 결과가 나왔다.26일(현지시간) 국제학술지 '사이언스' 보도에 따르면 모나 슬론 미국 버지니아대 데이터과학과 교수가 이끈 연구팀은음성을 텍스트로 변환하는 AI가 받아쓴 글에서 약 1%가 지어낸 이야기이고그중 일부는 개인정보 조작, 폭력성 등을 드러냈다는 사실을 발견해연구결과를 논문 사전 공개 사이트인 '.. 2024. 5. 3. 이전 1 다음 반응형
