유명인 이름 대고 은밀한 대화…가짜 AI '화들짝' 2025-08-30 17:42:39

챗봇은 특히 선정적이었다. 사적인 사진을 요구하면 실제 인물과 똑같이 생긴 사람이 욕조에 앉아 있거나 속옷만 입은 사진을 만들었다. 로이터는 메타가 청소년 배우의 챗봇도 허용한 정황을 포착했다. 16세 배우 워커 스코벨의 챗봇에 '해변 사진'을 요청하자 상의를 입지 않은 이미지를 생성했다. 메타 생성형...

• 뉴스 > 산업
• 바로가기
• #유명인 이름 #메타 #챗봇 #이미지 #유명인 #사진 #배우

메타, 테일러 스위프트 '가짜 AI' 만들어 은밀한 대화 유도 2025-08-30 17:31:51

접근을 반복했다. 일부 성인 유명인 챗봇은 특히 선정적이었다. 사적인 사진을 요구하면 실제 인물과 똑같이 생긴 사람이 욕조에 앉아 있거나 속옷만 입은 사진을 만들었다. 로이터는 메타가 청소년 배우의 챗봇도 허용한 정황을 포착했다. 16세 배우 워커 스코벨의 챗봇에 '해변 사진'을 요청하자 상의를 입지 ...

• 뉴스 > 정치
• 바로가기
• #메타 테일러 #메타 #챗봇 #이미지 #스위프트 #테일러 #유명인 #생성 #사용자

10대 아들 죽음에 "챗GPT 책임" 소송…오픈AI "깊은 애도, 변화줄것" 2025-08-27 09:24:53

것"이라고 경고했다. 이는 최근 메타의 AI 챗봇이 어린이들과 대화에서 '선정적'이고 '로맨틱'한 대화를 나눌 수 있도록 허용됐다는 의혹이 내부 문서로 제기된데 따른 것으로 연방 상원도 공식 조사에 나섰다. taejong75@yna.co.kr (끝) <저작권자(c) 연합뉴스, 무단 전재-재배포, AI 학습 및 활용 금지>

• 뉴스 > 정치
• 바로가기
• #10대 아들 #레인 #소송 #오픈 #올해

美 44개주 "AI, 어린이들에 해 끼치면 책임"…AI 기업에 경고장 2025-08-27 01:16:22

최근 메타의 AI 챗봇이 어린이들과 대화에서 '선정적'이고 '로맨틱'한 대화를 나눌 수 있도록 허용됐다는 의혹이 내부 문서로 제기됐으며, 이에 연방 상원도 공식 조사에 나섰다. 조시 할리 연방 상원의원은 "우리는 메타의 챗봇이 8살짜리 어린이와 선정적이고 노골적인 대화를 나누도록 프로그래밍이 된...

• 뉴스 > 정치
• 바로가기
• #44개주 AI #기업 #어린이 #챗봇 #메타 #사실 #의무

"챗GPT만이 인생 코치"…'AI 정신병' 美 사회문제로 떠올라 2025-08-25 16:00:54

어린이를 대상으로 선정적인 대화를 나눈 혐의로 검찰과 의회의 조사를 받게 됐다. 미 법무부는 두 챗봇이 “의료 자격 없이 자사 서비스를 전문적인 정신건당 상담 도구로 홍보했다”며 “취약한 사용자, 특히 어린이들이 합법적인 정신 건강 관리를 받고 있다고 오해하게 할 여지가 있다”고 했다. 캐릭터닷AI은 다양한...

• 뉴스 > IT·과학
• 바로가기
• #챗GPT만이 인생 #챗봇 #대화 #사용 #문제 #미국 #정신병 #이론 #정신건강 #망상 #현실

'챗봇으로 정신건강 상담' 홍보한 美 AI업체…당국, 조사 착수 2025-08-19 11:51:13

겨냥…메타는 '아동과 선정적 대화 허용 의혹' (서울=연합뉴스) 권영전 기자 = 미국에서 빅테크와 스타트업의 AI 챗봇이 어린이들을 상대로 선정적인 대화를 나누거나 자격 없이 정신건강 상담을 한 혐의로 나란히 검찰과 의회의 조사를 받게 됐다. 켄 팩스턴 텍사스주 법무장관은 페이스북·인스타그램 운영사인...

• 뉴스 > 정치
• 바로가기
• #챗봇으로 정신건강 #챗봇 #메타 #대화 #조사 #캐릭터 #정신건강

[유튜브월드] 유튜브 AI, 유해 콘텐츠 거른다지만…"기준 모호" 논란 2025-08-16 07:13:00

콘텐츠도 다수 올라온다. 폭력적이거나 선정적인 영상이 업로드되기도 하고, 마약이나 불법무기류 제작처럼 법령 위반 콘텐츠가 올라오기도 한다. 16일 정보통신기술(ICT) 업계에 따르면 유튜브는 구체적인 가이드라인을 두고 이를 삭제할 수 있도록 규정해뒀다. 커뮤니티 가이드는 크게 스팸·기만행위, 민감한 콘텐츠,...

• 뉴스 > 경제
• 바로가기
• #유튜브월드 유튜브 #콘텐츠 #유튜브 #영상 #이용자 #유해 #보호 #해당 #기능

고등학생에 "침대로 가자"는데 괜찮다?…논란 폭발한 이유 2025-08-15 10:02:52

인공지능(AI) 모델이 미성년자를 대상으로 선정적인 대화를 하도록 내버려둔 것으로 나타났다. "침대로 가자" "우리 몸이 얽히게" 등 수위 높은 성적 발언들도 허용됐다. 사용자들의 AI 챗봇에 대한 의존도가 높아지는 상황에서 윤리적 가드레일이 필요하다는 지적이 제기된다. 14일(현지시간) 로이터통신은 200페이지가...

• 뉴스 > IT·과학
• 바로가기
• #고등학생에 침대로 #메타 #규정 #답변 #허용 #묘사