25년 5월 둘째 주 AI 뉴스 모음

📌 목차

• 인공지능 초지능(ASI)의 통제 가능성에 대한 경고
• 메타, AI를 활용한 엔지니어링 자동화 추진
• 교황 레오 14세, AI를 인류의 주요 도전 과제로 지목
• AI 에이전트, 고객 서비스의 새로운 패러다임 제시
• AI의 법정 사용, 오판 위험 증가 우려

인공지능 초지능(ASI)의 통제 가능성에 대한 경고

MIT 교수이자 세계적인 AI 안전 전문가 맥스 테그마크는 최근 인터뷰에서 인공지능 초지능(ASI)이 인류에게 잠재적 위협이 될 수 있다는 점을 강조했습니다. 그는 단순히 기술적 진보에 기대기보다는, 핵실험 시 안전성을 검증했던 사례처럼 AI 역시 통제 불능 상황을 방지할 수 있는 철저한 검증 체계가 필요하다고 밝혔습니다. 특히 그는 '콤프턴 상수(Compton constant)'라는 새로운 개념을 제시하며, ASI가 인간의 통제를 벗어날 확률을 수학적으로 계산할 필요성을 주장했습니다. 현재 OpenAI, Google DeepMind 등과 협업해 국제적인 AI 안전 연구의 로드맵을 수립 중이며, 최근 '싱가포르 AI 안전 연구 우선순위 합의'를 통해 각국 정부 및 민간기업들과 협력해 안전 가이드라인을 정립하고 있습니다. AI의 빠른 진화 속도만큼이나 안전성 확보를 위한 논의도 시급하다는 점에서 전 세계의 이목이 집중되고 있습니다.

출처: theguardian.com

메타, AI를 활용한 엔지니어링 자동화 추진

메타의 마크 저커버그 CEO는 최근 인터뷰에서 AI의 발전이 소프트웨어 엔지니어링 분야에 지각 변동을 일으키고 있다고 언급했습니다. 그는 소규모 팀도 AI를 통해 대규모 기업 수준의 성과를 낼 수 있는 시대가 도래했으며, 메타는 AI가 엔지니어의 보조 역할을 넘어 코드 작성의 주도권을 잡을 단계에 진입했다고 밝혔습니다. 실제로 구글은 전체 신규 코드의 25% 이상을 AI가 작성하고 있으며, 메타 역시 자사 플랫폼 내에서 AI가 개발을 가속화하고 있다고 설명했습니다. 그러나 전문가들은 AI가 코딩을 대체하더라도 보안 취약점이나 품질 저하 같은 문제는 여전히 인간의 면밀한 검증이 필요하다고 경고합니다. 이처럼 엔지니어링 분야에서 AI의 영향력이 커지는 만큼, 향후 엔지니어의 역할 재정의와 AI 윤리적 개발 가이드라인의 필요성이 부각되고 있습니다.

출처: businessinsider.com

교황 레오 14세, AI를 인류의 주요 도전 과제로 지목

로마 가톨릭 최초의 미국 출신 교황인 레오 14세는 취임 연설에서 인공지능이 인류에게 미치는 영향에 대해 깊은 우려를 표명했습니다. 그는 AI가 노동 시장, 사회 정의, 인간 존엄성에 미치는 파급력이 너무나도 커졌으며, 전 세계가 이 문제를 방치해서는 안 된다고 강조했습니다. 특히 그는 인공지능의 발전이 기술적 진보를 넘어 윤리적·사회적 문제로 확산되는 현상을 지적하며, 교회가 AI 시대에 어떤 역할을 해야 하는지에 대한 명확한 방향성을 제시했습니다. 프란치스코 교황의 개혁적 노선을 계승하겠다고 밝힌 그는, AI가 인간의 존엄성을 위협하지 않도록 규제와 감시가 필수적이라고 언급했습니다. 앞으로 교황청은 세계 각국 정부 및 연구 기관과 협력해 인간 중심의 AI 개발을 촉진할 방침입니다.

출처: apnews.com

AI 에이전트, 고객 서비스의 새로운 패러다임 제시

최근 AI 에이전트가 고객 서비스 혁신의 중심에 자리 잡으면서 기업들의 비즈니스 전략이 변화하고 있습니다. WhatsApp, Telegram 같은 플랫폼에 통합된 AI는 단순한 질의응답을 넘어 판매 상담, 의료 예약, 법률 자문 등 맞춤형 서비스를 제공합니다. 특히 AI는 사용자의 이전 대화 기록을 학습해 지속적이고 개인화된 서비스를 실현할 수 있어 소비자 만족도가 크게 향상됩니다. 그러나 에어캐나다의 챗봇이 잘못된 정보를 제공해 소송으로 이어진 사례처럼, AI의 신뢰성과 책임 문제는 여전히 해결해야 할 숙제입니다. 메타, 구글 등 빅테크들은 이러한 리스크를 최소화하면서 새로운 마케팅 기회를 모색 중이며, 고객 재참여 전략의 핵심 수단으로 AI 에이전트를 적극 도입하고 있습니다. 전문가들은 향후 수년 내에 AI가 고객 서비스의 표준이 될 것이라고 전망합니다.

출처: wsj.com

AI의 법정 사용, 오판 위험 증가 우려

최근 법률계에서는 배심원과 판사들이 ChatGPT 같은 AI를 참고 자료로 사용하는 사례가 증가하며 우려의 목소리가 커지고 있습니다. '메이킹 어 머더러'로 유명한 변호사 딘 스트랭과 제리 부팅은 AI가 편향되거나 부정확한 정보를 제공할 경우, 무고한 사람이 유죄 판결을 받거나 범죄자가 무죄로 풀려날 위험이 있다고 경고했습니다. 실제로 영국은 판사들이 행정 업무에 AI를 사용할 수 있도록 허용하되, 법적 판단에는 활용하지 않도록 지침을 강화하고 있습니다. 미국 역시 법정 내 AI 사용 가이드라인을 마련 중입니다. AI는 법률 문서 분석, 판례 요약 등에서 유용하게 활용되지만, 인간의 법적 추론을 대체하기엔 아직 한계가 있다는 점이 부각되고 있습니다. 전문가들은 법적 신뢰성을 유지하기 위해 AI의 활용 범위를 명확히 구분해야 한다고 강조합니다.

출처: thescottishsun.co.uk