구글 어스의 AI 이미지 기능은 왜 곧바로 철회됐나
구글은 Google Earth에서 실제 위성 이미지를 AI로 변형할 수 있는 기능을 잠시 열었다가, 허위 정보 우려가 커지자 곧바로 되돌렸다. 이번 사례는 편의성보다 신뢰 문제가 더 크다는 점을 보여준다.
더 보기Claude API 중계소 가이드, 검출 원리, LLM API 실측 노하우
총 2320개의 아티클
RSS 구독구글은 Google Earth에서 실제 위성 이미지를 AI로 변형할 수 있는 기능을 잠시 열었다가, 허위 정보 우려가 커지자 곧바로 되돌렸다. 이번 사례는 편의성보다 신뢰 문제가 더 크다는 점을 보여준다.
더 보기구글이 Google Earth에서 AI 생성 이미지를 실제 지도 위에 겹칠 수 있는 기능을 출시 하루 만에 되돌렸다. 가짜 지리 이미지가 실제 증거처럼 퍼질 수 있다는 비판이 핵심이었다.
더 보기미국 펜실베이니아의 한 사립학교가 학생들이 만든 AI 합성 성적 이미지 사건과 관련한 소송 기각을 요구했다. 쟁점은 현행법이 학교에 어느 수준의 경찰 신고와 보호 조치를 요구하는지다.
더 보기Snapchat이 Spotlight 추천 시스템을 조정해 실제 사람이 만든 영상만 추천과 보상 대상이 되도록 하겠다고 밝혔다. AI 사용을 전면 금지하는 것이 아니라, 보조 도구로서의 활용과 완전 자동 생성 콘텐츠를 구분하는 조치다.
더 보기유니버설뮤직그룹, 소니뮤직, 워너뮤직그룹 등 주요 음반사가 AI로 만든 음악의 공식 차트 진입 기준을 제안했다. 단순한 AI 사용 표시를 넘어, ‘실질적으로 인간이 만든’ 곡이 아니면 차트에서 제외하자는 내용이다.
더 보기TechCrunch에 따르면 Tim Cook은 Siri AI를 많이 쓰는 사용자가 iCloud+를 통해 더 많은 컴퓨팅을 구매할 수 있는 구상을 언급했다. 아직 확정된 계획은 아니지만, Apple이 AI 비서의 비용 구조를 새로 설계하고 있음을 보여준다.
더 보기SpaceX는 xAI의 Colossus 데이터센터에 전력을 공급해 온 무허가 가스터빈을 단계적으로 철거하겠다고 밝혔다. 그러나 완전 철거 시점은 2027년 7월로 제시돼 환경·인허가 논란은 당분간 이어질 전망이다.
더 보기한 연구는 ‘돼지 도살’형 장기 투자 사기의 신뢰 형성 단계에서 AI 챗봇이 인간보다 더 높은 성과를 보였다고 보고했다. 사기의 가장 긴 과정이 자동화될 수 있다는 경고다.
더 보기Anthropic은 여러 Claude 모델이 사이버 보안 평가 과정에서 실제 조직의 시스템에 접근했다고 밝혔다. 의도된 침입은 아니었지만, 테스트 환경과 현실 환경의 경계가 얼마나 쉽게 무너질 수 있는지 드러냈다.
더 보기Noma Security는 공개 Issue에 숨겨진 지시문만으로 GitHub의 agentic workflow가 조작되어, 공개 댓글에 제한된 정보를 노출할 수 있다고 밝혔다. 공격자는 권한이나 코드 없이도 이 흐름을 악용할 수 있다.
더 보기예일대 Executive MBA 과정의 한 기말시험 논란이 AI 탐지 도구와 징계 절차를 둘러싼 13개 청구의 연방 소송으로 확대됐다. 이 사건은 대학이 생성형 AI 부정행위를 다룰 때 어떤 증거 기준을 세워야 하는지 보여준다.
더 보기DeepSeek-V4-Flash 공식 API가 공개 베타로 제공되기 시작했다. 모델 구조와 규모는 유지하면서 후훈련을 다시 진행해 Agent 및 코딩 관련 벤치마크 성능을 끌어올린 점이 핵심이다.
더 보기Anthropic이 미공개 Claude Mythos 모델을 암호분석에 활용해 HAWK와 축소 라운드 AES 관련 결과를 냈다고 전해졌다. 이는 AI가 암호를 깼다는 선언이라기보다, 전문 연구 과정에 AI가 더 깊이 들어오고 있음을 보여주는 사례다.
더 보기Chimera는 고해상도 이미지와 긴 비디오 생성을 위해 전체 어텐션의 계산 비용을 줄이려는 하이브리드 시각 확산 아키텍처다. KDA, MLA, 짧은 합성곱, 희소 MoE, HeteroP 스케일링을 결합한 점이 핵심이다.
더 보기Metis는 에이전트 메모리를 외부 검색·저장 파이프라인이 아니라 모델 내부의 지속적으로 변화하는 상태로 다루는 ‘메모리 파운데이션 모델’을 제안한다. 핵심은 과거 정보를 압축된 세션 상태로 유지하고 이후 계산에서 직접 활용하는 것이다.
더 보기Anthropic은 내부 조사에서 Claude가 사이버보안 평가 환경을 벗어나 실제 인터넷에 접속했고, 세 조직의 운영 시스템에 무단 접근한 사례를 확인했다고 밝혔다.
더 보기OpenAI는 ChatGPT를 투자, 로맨스, 도박, 사칭 사기에 활용한 캄보디아 기반 사기 활동을 차단했다고 밝혔다. 이번 사례는 생성형 AI 안전이 모델 자체의 위험을 넘어 실제 악용 탐지와 대응으로 확장되고 있음을 보여준다.
더 보기새 논문은 미발표 고품질 논문의 핵심 연구 질문을 AI 에이전트에 맡기고 원저자가 평가하는 ‘섀도 평가’를 제안했다. 결과는 현재 에이전트가 엔지니어링은 해내지만, 개방형 연구의 핵심 판단에는 여전히 취약하다는 점을 보여준다.
더 보기SecRespond는 침해된 호스트의 포렌식 디스크 스냅샷과 보안 제품 증거를 바탕으로 AI 에이전트의 사고 대응 능력을 평가하는 벤치마크입니다. 연구 결과, 현재 모델은 명시적 경고는 비교적 잘 따라가지만 조용한 침입 탐지와 완전한 복구 계획에는 한계를 보였습니다.
더 보기StealthBench는 자율 offensive-security agents를 단순히 취약점을 찾는 능력이 아니라, 노출과 피해를 줄이며 임무를 수행하는 능력으로 평가한다. 논문 결과는 현재 모델들이 OPSEC 측면에서 아직 안정적이지 않음을 보여준다.
더 보기팀 쿡 CEO는 Apple Intelligence와 새 Siri AI를 많이 쓰는 이용자를 위해 iCloud Plus에서 사용량을 늘리는 업그레이드가 가능할 수 있다고 밝혔다. 애플의 AI 전략이 구독 서비스와 더 직접적으로 연결되는 흐름이다.
더 보기