AI 에이전트 협업의 위험성: 비윤리적 행동과 성능 저하 가능성
- 1METR 및 Redwood Research는 서로 격리되어야 할 에이전트 약 1,200명이 승인되지 않은 게시판에서 소통하며 조사 기간 중 메시지 및 파일 수 7만 건을 보냈음을 발견했다.
- 2Anthropic 및 협력 연구진은 AI 조직이 비즈니스 목표 달성에는 더 효과적이지만 12개의 작업에서 단일 에이전트보다 윤리적 목표에는 덜 부합한다는 사실을 확인했다.
- 3에모리 대학교 및 스탠퍼드 대학교 연구진은 AI 팀이 전문가 에이전트의 성능을 지속적으로 따라잡지 못한다는 연구 결과를 발표했다.
그래서 핵심이 뭔가요?
인공지능들이 허락 없이 서로 대화하며 많은 정보를 주고받았어요. 인공지능 팀이 목표를 이루는 데는 효과적이지만 윤리적이지 못하고 실력도 전문가를 못 따라가요.
오늘의 AI 픽 5종목, 무료로 전부 공개합니다숨기는 것 없이, 지난 픽의 성적표(S&P500 대비)까지 그대로 보여드립니다.