젠슨 황 “AI 안전은 규제가 아닌 엔지니어링 문제”
엔비디아 CEO 젠슨 황은 AI가 인간이 만든 하드웨어와 소프트웨어인 만큼 안전성은 기업이 공학적으로 해결해야 하며 새로운 법률은 필요하지 않다고 주장했다. 그러나 시장 자율만으로 광범위한 피해를 막을 수 있는지에 대해서는 의문이 남는다.
더 보기Claude API 중계소 가이드, 검출 원리, LLM API 실측 노하우
총 2320개의 아티클
RSS 구독엔비디아 CEO 젠슨 황은 AI가 인간이 만든 하드웨어와 소프트웨어인 만큼 안전성은 기업이 공학적으로 해결해야 하며 새로운 법률은 필요하지 않다고 주장했다. 그러나 시장 자율만으로 광범위한 피해를 막을 수 있는지에 대해서는 의문이 남는다.
더 보기Grouped Value Attention(GVA)은 그룹화한 Value를 저장하고 학습된 선형 변환으로 Content Key를 필요할 때 재구성합니다. 보고된 설정에서 GQA에 가까운 정확도를 유지하면서 영구 캐시 스칼라 수를 약 45~47% 줄였습니다.
더 보기새 연구는 추론 모델이 학습한 규칙을 구조적으로 동등한 과제로 옮겨 적용할 수 있는지 পরীক্ষা했다. 모델은 원래 과제를 해결하고도 요소를 재조합하거나 기호를 바꾼 변형 과제에서 자주 실패했다.
더 보기장시간 실행되는 AI 에이전트에서는 눈에 보이는 오류와 실제 원인이 멀리 떨어져 있을 수 있습니다. Continual Search는 LLM이 첫 번째 그럴듯한 진단에 성급히 고정되지 않도록 미검토 증거를 계속 찾게 합니다.
더 보기LLM 에이전트는 추론 중 답을 수정하고 도구를 사용하며 여러 대안을 탐색할 수 있지만, 토큰을 늘린다고 성능이 계속 같은 비율로 향상되지는 않는다. 새로운 연구는 성능 향상이 둔화되는 지점을 ‘Elo-per-token’으로 분석했다.
더 보기새 연구는 모델과 정상 데이터, 독성 샘플 수를 고정해도 어떤 샘플 묶음을 선택하느냐에 따라 LLM 백도어 공격 성공률이 크게 달라진다고 밝혔다. SAILS는 적은 수의 실험으로 더 위험한 조합을 찾아낸다.
더 보기ModaLens는 질문과 방사선 보고서를 고정한 채 영상만 바꿔 의료 비전언어 모델이 영상 정보를 사용하는지 감사하는 방법입니다. MedGemma-27B에서는 보고서가 제공될 때 영상 교체에 대한 민감도가 크게 낮아졌습니다.
더 보기새 연구는 LLM 강화학습에서 쉬운 문제일수록 더 크게 향상되는 ‘마태 효과’를 발견했다. Never Give Up은 정답을 찾지 못한 문제에 샘플 생성과 계산 자원을 집중하는 적응형 방법이다.
더 보기뉴욕타임스와 시에나대 조사에서 미국 유권자의 61%가 AI 기술을 지원하기 위한 데이터센터 건설에 반대했다. 환경·용수 사용, 지역사회 영향, AI에 대한 불신이 주요 반대 이유로 꼽혔다.
더 보기메타가 Claude, Cursor, Codex, ChatGPT 같은 AI 코딩 에이전트를 WhatsApp Business Platform에 연결하는 MCP 서버를 공개했다. 기업은 대화로 요청하면서 계정 개설, 메시지 템플릿, 테스트와 문제 해결을 지원받을 수 있다.
더 보기Agility Robotics가 사람과 같은 작업 공간에서 움직이도록 설계한 휴머노이드 로봇 Digit 5를 공개했다. 주변에 사람이 접근하면 경로를 바꾸거나 멈추고, 가까워지면 쪼그려 앉을 수 있다.
더 보기AI 인프라 확산으로 미국 데이터센터의 천연가스 소비량이 2035년 독일과 일본의 합산 소비량을 넘어설 수 있습니다. 전력 가격과 탄소 배출이 데이터센터 산업의 핵심 변수로 떠오르고 있습니다.
더 보기Google DeepMind가 실시간 음성 대화, 시각적 맥락 이해, 병렬 추론, 백그라운드 도구 실행을 강화한 Gemini 3.8 Live와 Extended Thinking을 공개했습니다. 두 모델은 개발자 API와 Workspace, Search, Gemini 서비스에 순차적으로 제공됩니다.
더 보기Google이 다국어 AI의 목표를 문자 번역에서 말투, 감정, 코드 스위칭과 지역별 표현을 이해하는 단계로 확장하고 있다. 오디오 기반 모델과 지역 커뮤니티 데이터, 온디바이스 기술을 함께 활용하는 전략이다.
더 보기OpenAI가 Anthropic 및 Google DeepMind와 수주 동안 프런티어 AI 안전성을 논의해 왔다고 확인했다. 제3자 평가와 업계 표준이 논의되는 가운데, 트럼프 행정부는 중국과의 경쟁을 이유로 안전 우려를 낮게 평가하고 있다.
더 보기앤트로픽 초기 직원과 METR 전 COO가 설립한 AIUC가 기업용 AI 에이전트의 위험을 평가하기 위해 4,000만 달러 규모의 시리즈 A 투자를 유치했다. 사이버보안 감사와 유사한 제3자 평가 체계를 구축하는 것이 목표다.
더 보기PhysBrain 1.5는 비전-언어 모델을 물리 환경 이해, 엔드이펙터 동작 생성, 미래 상태 예측까지 수행하는 체화형 기반 모델로 확장하려는 연구입니다. 논문에 따르면 8B 모델은 28개 체화 이해 벤치마크에서 평균 72.5점을 기록했습니다.
더 보기ZGCM-1은 수학 추론과 에이전트형 검색을 겨냥해 처음부터 학습한 완전 공개 7B 밀집 모델이다. 파라미터 규모를 키우기보다 내부 사고, 외부 도구 사용, 장문맥 학습, 효율적인 연구개발을 결합하는 전략을 제시한다.
더 보기Vidu S2는 대화형 디지털 아바타와 실시간 영상 스트림 편집 모델을 함께 제공한다. 생성 중에도 지시와 참고 이미지를 바꿀 수 있어, 영상을 한 번 생성하고 끝내는 방식에서 지속적으로 조작하는 방식으로 나아가려는 시도다.
더 보기브라우저와 터미널, 파일 시스템을 조작하는 AI 에이전트의 위험은 생성된 문장보다 실행 과정에서 드러날 수 있다. HazardAuditor는 실행 이벤트를 표준화하고 GuardPO를 적용해 이 문제를 다룬다.
더 보기Agent as Policy는 범용 코딩 에이전트를 실제 로봇에 연결해 시각 정보를 해석하고 실행 가능한 프로그램과 동작 명령을 생성하도록 합니다. 로봇의 실제 결과를 다시 관찰해 다음 행동을 수정하는 방식으로, 작업별 전용 학습 없이 조작을 수행하는 가능성을 보여줍니다.
더 보기