Security Track Intro — Randall Degges, Snyk
📺 원본 영상: Security Track Intro — Randall Degges, Snyk
🎙️ 채널: AI Engineer
📅 정리 일자: 2026-07-21
⚠️ Note: 본 리포트는 영상의 음성을 텍스트로 변환(STT)하여 정리한 것입니다. 화면에 표시된 자료(차트, 코드, 슬라이드 등)는 포함되지 않을 수 있습니다.
개요
Randall Degges는 이 짧은 오프닝 발언에서 AI 보안의 현재 상태를 세 가지 문제로 압축해 설명한다. 생성형 AI가 개발자의 생산성을 끌어올리고 더 빠른 소프트웨어 출시를 가능하게 만든 것은 분명하지만, 그 속도를 실제 프로덕션 환경에서 지속하려면 보안이 개발 과정의 부가 요소가 아니라 기본 조건이 되어야 한다는 것이다. 특히 그는 AI가 생성한 코드의 취약점, 자율 에이전트의 통제 가능성, 그리고 AI 접근성을 둘러싼 지정학적 제약을 하나의 흐름으로 연결하며, “두려움 없이 AI를 사용할 수 있는 상태”가 앞으로의 핵심 과제라고 강조한다.
AI 개발의 매력은 속도이지만, 병목은 신뢰다
Randall은 자신을 오랫동안 개발자이자 보안 전문가로 일해 온 사람이라고 소개하면서, 최근 생성형 AI의 부상에서 가장 흥미로운 점은 더 좋은 소프트웨어를 더 빠르게 만들 수 있게 되었다는 사실이라고 말한다. 여기서 그의 관점은 단순한 생산성 찬양에 머물지 않는다. 그는 실제 사용자에게 기능을 배포하고, 사용자가 그 결과에서 즐거움을 느끼는 순간이 개발의 핵심적인 보상이라고 본다. 생성형 AI는 이 과정을 마치 “치트 코드”처럼 가속하는 도구가 되었고, 개발자는 이전보다 훨씬 빠른 속도로 아이디어를 구현할 수 있게 되었다.
그러나 이 속도는 곧바로 신뢰의 문제를 낳는다. AI가 코드를 작성해 주더라도 그 코드가 안전하다는 보장은 없으며, 이 점은 이미 많은 개발자와 보안 담당자가 경험적으로 알고 있는 사실이다. Randall은 인간이 작성한 코드에도 보안 결함이 생기듯, AI 모델이 작성한 코드에도 같은 종류의 문제가 생긴다고 설명한다. 따라서 AI 코드 생성의 위험은 완전히 새로운 문제가 아니라, 현대 소프트웨어 엔지니어링이 이미 다루어 온 보안 수명주기(Security Lifecycle)의 연장선에 있다.
이 대목에서 중요한 것은 AI를 금지하거나 회피하는 태도가 아니라, AI가 만든 결과물을 기존 개발 프로세스 안에서 어떻게 검증하고 통제할 것인가이다. 보안은 개발이 끝난 뒤 마지막에 검사하는 절차가 아니라, 설계와 구현, 테스트와 배포 전반에 걸쳐 포함되어야 한다. Randall의 메시지는 이 지점에서 명확하다. AI가 코드를 만들든 사람이 코드를 만들든, 보안은 현대 엔지니어링의 기본 구성 요소이며, 이 전제가 흔들리면 AI가 제공하는 속도 역시 조직 안에서 지속되기 어렵다.
코드 보안보다 더 어려운 문제, 프로덕션 자율 에이전트
강연의 두 번째 축은 자율 에이전트(Autonomous Agent)를 실제 운영 환경에 배포하는 문제다. Randall은 단순히 AI가 코드를 작성하는 상황보다, 에이전트가 프로덕션에서 독립적으로 행동하는 상황이 훨씬 더 어렵다고 본다. 코드는 정적 분석, 테스트, 리뷰, 런타임 모니터링 같은 기존 도구로 어느 정도 다룰 수 있지만, 에이전트는 외부 시스템과 상호작용하고, 권한을 사용하며, 때로는 예측하기 어려운 방식으로 의사결정을 수행할 수 있기 때문이다.
그가 던지는 질문은 실무적으로 매우 구체적이다. 조직이 자율 에이전트를 배포한 뒤에도 밤에 마음 편히 잠들 수 있으려면 무엇이 필요할까. 에이전트가 의도하지 않은 행동을 하거나, 비즈니스에 손해를 끼치거나, 사용자에게 피해를 주는 상황을 어떻게 막을 수 있을까. 이 질문은 AI 안전성(AI Safety)이라는 넓은 담론과도 연결되지만, Randall의 맥락에서는 훨씬 더 엔지니어링적인 문제로 제시된다.
자율 에이전트 보안의 핵심은 모델의 답변 품질만이 아니라 권한, 경계, 감사 가능성, 실패 처리 방식에 있다. 에이전트가 어떤 데이터에 접근할 수 있는지, 어떤 시스템 명령을 실행할 수 있는지, 어떤 조건에서 사람의 승인을 받아야 하는지, 그리고 문제가 발생했을 때 무엇을 기록하고 어떻게 중단할 수 있는지가 중요해진다. Randall이 말하는 “두려움 없이 AI를 사용한다”는 표현은 결국 이런 통제 장치가 충분히 성숙해져서, 개발자가 혁신 속도와 운영 리스크 사이에서 매번 극단적인 선택을 하지 않아도 되는 상태를 뜻한다.
AI 보안은 이제 기술 문제를 넘어 접근성과 지정학의 문제로 확장된다
Randall은 세 번째 장벽으로 지정학적 문제를 언급한다. 그는 특정 AI 서비스나 모델에 대한 접근이 제한되는 상황을 예로 들며, 많은 개발자가 최신 모델이나 특정 도구를 사용하지 못하는 데서 불편함을 느낀다고 말한다. 이 리포트에서는 음성상 불명확한 개별 서비스명이나 농담성 표현을 단정하지 않고, AI 모델 접근권이 보안과 정책, 지역적 제약의 영향을 받는다는 강연자의 문제의식에 초점을 맞춘다.
이 지점이 흥미로운 이유는 AI 보안이 더 이상 애플리케이션 내부 취약점만의 문제가 아니라는 데 있다. 어떤 모델을 사용할 수 있는지, 어떤 지역에서 어떤 API 접근이 허용되는지, 특정 기업이나 국가의 정책 변화가 개발 환경에 어떤 영향을 미치는지가 모두 실제 엔지니어링의 제약으로 작동한다. 개발팀 입장에서는 기술적으로 가장 적합한 모델이 있어도 접근 제한이나 규제 리스크 때문에 선택하지 못할 수 있고, 이는 제품 전략과 보안 전략을 동시에 흔든다.
Randall은 이러한 접근성 문제 역시 근본적으로 보안과 연결되어 있다고 본다. AI를 안전하게 사용할 수 있다는 신뢰가 충분히 확보되지 않으면, 기업과 정부는 더 강한 통제와 제한을 선택하게 된다. 반대로 AI 시스템이 기본적으로 안전하고 검증 가능하며 책임 있게 운영될 수 있다는 확신이 쌓이면, 개발자는 더 넓은 선택지를 가지고 더 빠르게 실험할 수 있다. 결국 AI 보안은 개발 속도를 늦추는 제동 장치가 아니라, 더 큰 규모의 AI 활용을 가능하게 하는 기반 시설에 가깝다.
“Secure by Default”가 AI 시대의 개발 문법이 되는 이유
강연의 핵심 문장은 AI를 “fearlessly” 사용할 수 있어야 하며, 동시에 “secure by default”여야 한다는 주장으로 요약된다. 여기서 secure by default는 보안 기능을 나중에 추가하는 방식이 아니라, 시스템의 기본 동작 자체가 안전한 방향으로 설계되어야 한다는 뜻이다. AI 개발이 빠르게 확산될수록 개별 개발자에게 모든 보안 판단을 맡기는 방식은 한계에 부딪힐 수밖에 없으며, 플랫폼과 도구, 조직 프로세스가 안전한 기본값을 제공해야 한다.
이 관점은 Snyk가 다루는 개발자 보안 영역과도 자연스럽게 맞닿아 있다. AI가 생성한 코드의 취약점을 탐지하는 문제, 의존성의 보안 상태를 확인하는 문제, 배포 전후의 리스크를 관리하는 문제는 모두 개발자 경험 안에 녹아들어야 한다. 보안 도구가 개발 흐름을 과도하게 방해하면 현장에서 우회되기 쉽고, 반대로 너무 느슨하면 AI가 만들어내는 속도를 감당하지 못한다. 따라서 AI 시대의 보안은 개발자가 이미 일하는 환경 안에서 작동하면서도, 위험한 선택을 기본값으로 두지 않는 방향으로 진화해야 한다.
Randall이 소개한 Security Track은 바로 이 문제들을 하루 동안 집중적으로 다루기 위한 자리다. 그는 NVIDIA, Anthropic, Snyk를 비롯한 여러 기업의 발표자들이 참여한다고 소개하며, 참석자들이 자신들이 만드는 AI 시스템을 더 높은 수준으로 끌어올리고 더 적은 걱정으로 운영할 수 있기를 기대한다고 말한다. 이는 단순한 행사 안내라기보다, AI 엔지니어링 커뮤니티가 이제 보안을 핵심 의제로 다루어야 한다는 선언에 가깝다.
마무리 / 핵심 정리
Randall Degges의 짧은 발표는 AI 보안 논의를 세 가지 층위로 정리한다. 첫째, AI가 생성한 코드에도 취약점이 존재할 수 있으므로 보안은 개발 수명주기의 기본 요소로 남아야 한다. 둘째, 자율 에이전트를 실제 서비스에 배포하려면 코드 취약점보다 더 복잡한 통제와 신뢰의 문제가 해결되어야 한다. 셋째, AI 모델 접근성과 정책적 제약은 기술 선택의 자유를 제한하며, 이 또한 넓은 의미의 보안 문제로 연결된다.
이 강연이 남기는 가장 실용적인 메시지는 AI의 속도를 제대로 활용하려면 보안을 속도의 반대편에 놓아서는 안 된다는 점이다. 개발자가 AI를 두려움 없이 사용하려면, 보안은 사후 점검이 아니라 기본값이어야 한다. 코드 생성, 에이전트 운영, 모델 접근성이라는 서로 다른 문제들은 결국 같은 질문으로 수렴한다. 우리는 AI를 얼마나 빠르게 만들 수 있는가가 아니라, 얼마나 안전하게 기본 인프라로 삼을 수 있는가를 물어야 한다.
📚 출처 및 참고
| 구분 | 내용 |
|---|---|
| 원본 영상 | Security Track Intro — Randall Degges, Snyk |
| 채널 | AI Engineer |
| 리포트 작성 | 2026-07-21 |
| 작성 방식 | YouTube 영상 STT 변환 후 에디팅 |
💬 본 리포트는 영상 내용을 바탕으로 재구성되었습니다. 정확한 내용은 원본 영상을 참조해 주세요.