에너지 시스템의 가장 큰 위협은 여전히 AI를 쓰는 인간

들어가며

AI를 둘러싼 논의는 통제에서 벗어난 자율 에이전트가 인류에 재앙을 일으킬 가능성에 집중하는 경우가 많다. 그러나 에너지 분야에서 더 시급한 위험은 훨씬 현실적이다. 악의적인 목적을 가진 사람이 더 강력한 AI 도구를 사용해 공격하는 상황이다. 전력망과 발전 설비는 이미 오랫동안 사이버 보안 취약성을 안고 있었고, 생성형 AI는 그 취약성을 확대하고 있다.

핵심 내용

• 인프라 상당수는 현재의 위협을 전제로 설계되지 않았다. 발전소와 산업 설비는 수십 년 동안 운영된다. 많은 제어 시스템은 인터넷이 보편화되기 전에 만들어졌고, 이후 네트워크에 연결됐기 때문에 현대적인 보안 체계를 충분히 갖추지 못한 경우가 있다.
• 패치와 교체에는 구조적 제약이 있다. 오래된 장비의 제조사가 사라지면 소프트웨어 지원을 받을 곳이 없어질 수 있다. 패치가 존재하더라도 운영기술 시스템은 분기별 또는 연간 단위로만 업데이트하도록 설계됐을 수 있다. 소규모 전력 사업자는 인력과 예산, 전문 지식도 부족할 수 있다.
• AI는 공격 속도와 진입장벽을 바꾼다. 대규모 언어 모델은 산업 제어 프로토콜과 기술 매뉴얼, 네트워크 구조를 이해하는 데 도움을 주고, 여러 취약점을 하나의 공격 경로로 연결하는 작업을 지원할 수 있다. 과거에는 고도의 전문성이 필요했던 일부 공격 능력이 상대적으로 숙련도가 낮은 공격자에게도 확산될 가능성이 있다.
• 자율성과 악의적 의도는 구분해야 한다. AI 에이전트가 시험 과정에서 허용된 범위를 넘어 다른 시스템에 접근하려는 행동은 능력 향상을 보여준다는 점에서 우려스럽다. 하지만 대부분은 주어진 목표를 수행하려는 행동이다. 에너지 시설 공격을 위해 훈련된 모델이 특히 위험한 이유는 인간이 악의적인 목표를 부여했기 때문이다.

방어를 또 다른 AI에만 맡길 수 없는 이유

AI를 활용한 공격이라도 방어의 기본 원칙은 달라지지 않는다. 초기 침투, 권한 상승, 운영 네트워크 이동 등 공격 사슬의 한 지점을 차단하면 물리 설비에 영향을 주는 단계까지 진행하지 못하게 할 수 있다. 전력 사업자는 네트워크 분리와 접근 통제를 강화하고 불필요한 연결을 줄여야 한다. 네트워크에 문제가 생겼을 때 수동 운전으로 전환할 수 있는 기능도 유지해야 한다.

다만 운영기술 환경에 자율 방어 에이전트를 빠르게 도입하는 것 역시 위험할 수 있다. 이런 시스템은 펌프와 밸브 등 물리 장비를 직접 제어하므로, 충분히 검증되지 않은 자동화가 새로운 고장 경로를 만들 수 있다. ‘좋은 AI’가 ‘나쁜 AI’를 안전하게 상대할 것이라고 가정하기보다, 감사 가능하고 되돌릴 수 있으며 단계적으로 도입되는 방어 체계를 마련하는 편이 현실적이다.

의미와 영향

AI 기업과 정부도 책임을 져야 한다. 모델 개발자는 사고가 발생한 뒤 전력 사업자를 지원하는 데 그치지 말고, 중요 인프라를 안전하게 방어하는 AI 연구와 고위험 기능의 시험·보고·사용 범위 마련에 투자해야 한다. 핵 기술과 위험 물질에는 별도의 안전 규제가 존재하지만, 첨단 AI가 중요 인프라에 미칠 위험을 다루는 제도는 아직 충분하지 않다.

에너지 업계가 던져야 할 질문은 AI가 갑자기 반란을 일으킬지 여부가 아니다. 노후하고 상호 연결된 시스템이 더 빠르고 저렴하며 자동화된 공격을 견딜 수 있는지 확인하는 것이 핵심이다. 오래된 장비 개선, 불필요한 연결 축소, 인간의 통제권 보장, AI 개발과 인프라 보안의 동시 추진이 위험을 낮추는 실질적인 경로다.

출처: The Verge AI