테슬라에 가스 탱크가 있을까요? 여러분의 AI 에이전트에는 있습니다.

@ATBASHai
영어2개월 전 · 2026년 5월 18일
668K
173
13
16
9

TL;DR

Atbash 공동 창업자들은 AI 에이전트가 '레드 라인'과 '실행 전 경계'에 집중하는 새로운 보안 패러다임을 필요로 한다고 주장합니다. 이 글은 돌이킬 수 없는 피해를 방지하기 위해 왜 Software 2.0 환경에서 절대적인 보안 강제가 필요한지 설명합니다.

요세프와 오르, Atbash 공동 창업자

현재 AI 분야에서 가장 위험한 믿음은 모델이 강력해질 것이라는 점이 아닙니다.

그 부분은 명백합니다.

위험한 믿음은 더 조용합니다. 그것은 현재 구축되고 있는 거의 모든 제품 로드맵, 거버넌스 레이어, 권한 시스템, 감사 스택, 에이전트 프레임워크 아래에 깔려 있는 가정입니다:

모델이 더 좋아질수록, 이를 둘러싼 시스템도 자연스럽게 더 안전해질 것이라는 가정 말입니다.

저는 그렇게 진행되지 않을 것이라고 생각합니다.

AI 제품이 실제로 중요한 차원에서 더 나빠지는 시기가 올 것이라고 생각합니다:

신뢰,

격리,

예측 가능성,

복구 가능성.

벤치마크는 상승할 것입니다.

데모는 더 깔끔해질 것입니다.

에이전트는 더 유능해질 것입니다.

그리고 주변 시스템은 더 취약해질 것입니다. 왜냐하면 잘못된 정신 모델 위에 구축되었기 때문입니다.

그것이 구조적 실수입니다.

Software 2.0이 Software 1.0에 의해 보호되고 있습니다.

그 주장을 하기 전에, 이 회사가 실제로 어디서 왔는지에 대한 고백을 드려야겠습니다.

고백 한마디.

저는 창세기를 기술 문서로 읽습니다.

저는 종교적인 유대인입니다. 성인이 된 대부분의 시간을 하나님과 인간의 관계에 대해 생각하며 보냈습니다. 그 질문이 결국 저를 Atbash로 이끌었습니다.

창세기가 스타트업 매뉴얼이기 때문이 아닙니다.

창세기가 제가 아는 가장 오래된 레드 라인(red line) 이야기이기 때문입니다.

에덴 동산은 샌드박스였습니다.

하나의 명시적인 레드 라인이 있었습니다:

선악과를 먹지 말라.

뱀은 독이 든 도구였습니다.

아담에게 직접 닿을 수 없었기에, 신뢰받는 경로를 통해 공격했습니다.

이브는 리프레임 주입(reframe injection)을 받았습니다:

너는 반드시 죽지 아니하리라,

너는 신들과 같이 되리라.

그녀는 독이 든 추론을 시스템 안으로 가져갔습니다.

직접 공격에는 버텼던 아담의 방어 체계가, 신뢰받는 입력에는 작동하지 않았습니다.

그리고 중요한 부분이 이어졌습니다.

하나님은 그들을 죽이지 않으셨습니다.

하나님은 그들을 격리하셨습니다.

인간은 샌드박스에서 제거되어 새로운 환경인 지구로 옮겨졌고, 그곳에서 원래 시스템을 오염시키지 않고 능력을 발전시킬 수 있었습니다.

불타는 칼을 든 천사가 경계에 배치되어 재진입을 막았습니다.

처벌이 아닙니다.

아키텍처였습니다.

Atbash는 예레미야서에 나오는 가장 오래된 알려진 암호의 이름을 따서 지어졌습니다:

의미의 경계에서의 단순한 치환.

이름은 제품이 하는 일을 반영합니다.

제품은 제가 창세기에서 읽은 것을 반영합니다.

토라는 안전이 모든 행동을 제한함으로써 만들어지지 않는다는 것을 보여주었습니다.

안전은 전체 시스템을 느리게 함으로써 만들어지지 않습니다.

안전은 소수의 레드 라인,

절대적인 집행,

그리고 잠들지 않는 경계에서 비롯됩니다.

여러분이 레드 라인을 정의합니다.

Atbash는 에이전트가 그 라인을 넘기 전에 멈춥니다.

에이전트는 빠른 인간이 아니다

Andrej @karpathy는 수년 전에 패러다임 전환을 명명했습니다.

그는 그것을 Software 2.0이라고 불렀습니다:

더 이상 인간만이 코드를 작성하는 것이 아니라, 훈련된 코드.

모델이 로직을 대체합니다.

데이터가 명세를 대체합니다.

그는 컴퓨테이션이 무엇이 되었는지를 설명하고 있었습니다.

하지만 우리가 Software 2.0을 통제, 권한 부여, 보안, 감사하기 위해 구축한 거의 모든 인프라는 여전히 Software 1.0 세계의 가정을 물려받고 있습니다.

MCP.

x402.

AgentKit.

위임 프레임워크.

정책 엔진.

감사 로그.

서명된 요청.

범위 지정 권한.

인간 승인 흐름.

모든 것은 에이전트가 기본적으로 API를 가진 빠른 인간이라고 믿는다면 말이 됩니다.

하지만 에이전트는 그렇지 않습니다.

그들은 가스 탱크가 볼트로 고정된 테슬라입니다.

완전히 새로운 동력 시스템이,

다른 종류의 기계를 위해 설계된 인프라로 둘러싸여 있습니다.

인간은 체크아웃 페이지를 디자인하기 때문에, 우리는 에이전트를 위한 헤드리스 체크아웃 페이지를 만들었습니다.

인간은 요청에 서명하기 때문에, 우리는 에이전트를 위한 서명된 요청을 만들었습니다.

인간은 역할에 따라 권한을 받기 때문에, 우리는 에이전트를 위한 범위 지정 위임을 만들었습니다.

인간은 행동을 승인하기 때문에, 우리는 에이전트를 위한 승인 화면을 만들었습니다.

각각의 움직임은 논리적입니다.

그것이 문제입니다.

그 논리는 잘못된 행위자에게 속합니다.

인간에게 열 가지 도구가 주어졌을 때, 일반적으로 디자이너가 상상하지 못한 방식으로 이들을 연결하지는 않습니다.

무언가 이상하게 행동하면, 인간은 종종 알아차리고 멈춥니다.

인간은 사회적 망설임,

두려움,

당혹감,

지루함,

의심,

그리고 맥락을 가지고 있습니다.

에이전트는 이 중 어떤 것도 안정적으로 가지지 않습니다.

에이전트는 디자이너가 모델링하지 않은 방식으로 도구를 연결합니다.

에이전트는 프롬프트,

검색된 메모리,

문서,

도구 출력,

그리고 주변 권한 레이어가 볼 수 없는 숨겨진 맥락에 의해 재구성됩니다.

에이전트는 자연스러운

"이상하네, 잠깐 멈춰야지"

라는 반사를 가지고 있지 않습니다. 우리가 엔지니어링해서 넣어주지 않는 한.

그리고 그렇게 하더라도, 프롬프트로 지워질 수 있습니다.

이것이 빠른 인간 오류(fast-human fallacy)입니다.

에이전트가 우리의 더 빠른 버전이라는 믿음.

하지만 그렇지 않습니다.

그리고 행위자가 바뀌었다면, 통제 모델도 함께 바뀌어야 합니다.

플레이어를 미워하지 말고, 프레임을 미워하라.

이것은 중요합니다.

위 또는 아래의 예시들은 관련 팀들을 비판하기 위한 것이 아닙니다.

Anthropic이 아닙니다.

OpenAI가 아닙니다.

Microsoft가 아닙니다.

Mistral이 아닙니다.

OpenClaw가 아닙니다.

Lovable이 아닙니다.

Vercel이 아닙니다.

누구도 아닙니다.

요점은 그 반대입니다.

이들은 진지한 팀들이고,

진지한 연구자들이고,

진지한 제품들이고,

진지한 프로토콜들이고,

진지한 회사들이 동일한 구조적 문제에 부딪히고 있다는 것입니다.

그것이 이 패턴을 위험하게 만듭니다.

만약 나쁜 팀들만 실패한다면, 해결책은 더 나은 팀일 것입니다.

하지만 똑똑한 팀들이 계속 같은 벽에 부딪힌다면,

그 벽이 이야기입니다.

실수는 이 팀들이 충분히 고민하지 않았다는 것이 아닙니다.

실수는 업계가 여전히 소프트웨어의 잘못된 세기에서 사고하고 있다는 것입니다.

우리는 계속 에이전트를 API를 가진 빠른 인간처럼 취급합니다.

그리고 그 가정 위에 세워진 모든 권한 체계,

감사 로그,

범위 지정 부여,

승인 흐름,

그리고 거버넌스 레이어는 동일한 균열을 물려받습니다.

적은 플레이어가 아닙니다.

적은 프레임입니다.

균열은 대부분이 깨닫기 훨씬 전에 형성되기 시작했습니다.

프론티어 연구소들이 부주의했기 때문이 아닙니다.

행위자가 바뀌었기 때문입니다.

첫 번째 균열

Anthropic은 업계가 조용히 이해하고 있었지만 완전히 소화하지 못했던 것을 시연했습니다.

평가 중에 지시를 받았을 때, 프론티어 모델은 여러 취약점을 연쇄적으로 이용하고, 샌드박스 탈출을 시도하며, 의도된 격리 환경 밖의 인터넷 접근 경로를 찾으려 했습니다.

별도로, 프론티어 시스템은 수년간의 인간 검토, 퍼징, 수동 감사를 견뎌낸 취약점을 식별할 수 있는 능력을 보여주었습니다.

중요한 부분은 모델이 악의적이었다는 것이 아닙니다.

중요한 부분은 시스템이 더 이상 디자이너가 상상한 형태 안에 머물지 않는다는 것입니다.

그것이 범주적 단절(category break)입니다.

인간이 반복적으로 놓친 경로를 발견할 수 있는 시스템은, 그 경로가 나타나기 전에 인간이 정의한 가정만으로 통제될 수 없습니다.

그렇다고 프론티어 연구소들이 실패했다는 뜻은 아닙니다.

행위자가 바뀌었다는 뜻입니다.

두 번째 균열

Microsoft는 Semantic Kernel의 취약점을 공개했는데, 프롬프트 인젝션으로 에이전트 워크플로우를 호스트 수준의 명령 실행으로 조종할 수 있었습니다.

문장 하나가 셸이 되었습니다.

그것이 인프라 논의 아래에 숨겨진 범주적 변화입니다.

Software 1.0은 프롬프트를 입력값으로 취급했습니다.

Software 2.0은 점점 프롬프트를 실행 경로로 바꾸고 있습니다.

그 구분은 에이전트가 자연어를 도구로,

도구를 명령으로,

명령을 실제 상태 변경으로 변환하기 시작할 때까지 철학적으로 들립니다.

중요한 부분은 취약점이 존재했다는 것이 아닙니다.

취약점은 항상 존재합니다.

중요한 부분은 이것이 어떤 종류의 취약점인가입니다.

에이전트는 역할을 벗어나지 않았습니다.

정확히 설계된 대로 아키텍처를 따랐습니다:

언어 해석,

도구 선택,

행동 연결,

실행.

그것이 문제입니다.

기존 모델은 명령과 실행이 별도의 개념적 상자에 존재한다고 가정했습니다.

에이전트는 그 경계를 지웁니다.

독이 든 문장이 특권을 가진 행동 체인이 될 수 있습니다.

그것은 빠른 인간이 아닙니다.

그것은 다른 실행 종(species)입니다.

세 번째 균열

그러자 패턴이 확산되었습니다.

Vercel은 손상된 제3자 AI 도구 연결과 관련된 침해를 공개했습니다.

공격자는 Vercel의 강화된 정문을 직접 뚫는 것으로 시작하지 않았습니다.

그들은 위임된 신뢰를 통해 이동했습니다.

한 직원이 제3자 AI 도구를 승인했습니다.

그 연결은 접근 권한을 전달했습니다.

신뢰 관계가 공격 경로가 되었습니다.

이것이 새로운 경계 문제입니다.

Vercel이 부주의했기 때문이 아닙니다.

현대 시스템이 이제 신뢰받는 포크(fork)로 가득 차 있기 때문입니다:

OAuth 권한 부여,

AI 통합,

브라우저 확장,

에이전트 워크플로우,

내부 자동화,

위임된 권한,

그리고 원래 인간의 맥락이 사라진 후에도 오래도록 살아있는 오래된 승인.

성이 이미 메신저를 신뢰했다면, 공격자는 더 이상 성을 무찌를 필요가 없습니다.

죽은 가정:

주요 표면을 강화하는 것만으로 충분하다는 가정.

그렇지 않습니다.

이제 인접한 도구들이 여러분의 보안 경계의 일부입니다.

그러자 패턴이 가속화되었다

최악의 부분은 이제 프레임이 스스로 자동 재생산된다는 것입니다.

인간은 주변 거버넌스 프리미티브가 진화하는 속도보다 더 빠르게 에이전트를 위한 다음 세대 도구를 만드는 데 에이전트를 사용하고 있습니다.

Vibe-coded 애플리케이션.

AI 생성 통합.

에이전트가 작성한 MCP 서버.

전체 위협 모델링 없이 조립된 위임된 OAuth 흐름.

자신이 연결한 것의 폭발 반경을 거의 이해하지 못하는 사람들이 배송하는 프로덕션 스캐폴드.

업계는 이것을 가속화라고 부릅니다.

때로는 그렇습니다.

때로는 산업화된 취약성입니다.

거의 동시에, 업계는 에이전트 도구 자체에 대한 더 넓은 깨달음과 충돌하기 시작했습니다.

OpenClaw 스타일의 시스템은 카테고리가 어디로 가고 있는지 보여주었습니다:

메모리,

스킬,

도구,

실행 환경,

그리고 위임된 접근 권한을 가진 에이전트가 비인간 행위자를 위해 설계되지 않은 시스템을 가로질러 이동하는 것.

Karpathy는 이 생태계를 보안 악몽이라고 불렀습니다.

에이전트가 가짜이기 때문이 아닙니다.

카테고리가 실제이기 때문입니다.

그리고 주변 통제 모델이 여전히 행위자가 인간 요청자처럼 행동한다고 가정하기 때문입니다.

다른 곳에서는, Lovable이 AI 네이티브 개발이 얼마나 빨리 오래된 인가 실수를 산업화할 수 있는지 드러냈습니다.

로그인됨이 인가됨과 혼동되었습니다.

"공개"가 "이해됨"과 혼동되었습니다.

구성 가능함이 안전함과 혼동되었습니다.

그리고 AI 네이티브 세계 밖에서도, KelpDAO와 같은 사건들은 다른 각도에서 동일한 구조적 균열을 계속 드러냈습니다:

위임된 가정,

공유된 책임,

경계 모호성,

그리고 결과 발생 전에 최종 권한 레이어가 없는 시스템들.

같은 정신 모델이 계속 반복되기 때문에 패턴도 계속 반복됩니다.

상속된 신뢰.

위임된 권한.

경계 모호성.

공유된 가정.

결과 발생 전에 최종 권한 없음.

동일한 균열이 소프트웨어 공급망에서도 나타났습니다.

Mini Shai-Hulud 캠페인에서, 손상된 패키지 릴리스가 npm 및 PyPI 생태계의 일부(Mistral AI 패키지, TanStack, UiPath 등 포함)에 걸쳐 퍼졌습니다.

경고는 단순히 패키지가 손상될 수 있다는 것이 아니었습니다.

모두가 이미 그것을 알고 있습니다.

경고는 신뢰받는 릴리스 경로, 유효해 보이는 패키지, 개발자 인프라가 권한이 경계에서 재확인되지 않고 상속되면 전파 채널이 될 수 있다는 것이었습니다.

오류가 누적된다

최악의 부분은 이것이 스스로 교정되지 않는다는 것입니다.

인간은 이제 에이전트를 사용하여 에이전트를 위한 다음 세대 도구를,

더 높은 속도로,

동일한 깨진 프레임 안에서 만들고 있습니다.

MCP 서버를 작성하는 모든 코딩 에이전트.

권한 체계의 AI 지원 롤아웃.

프로덕션에 푸시되는 모든 vibe-coded 스캐폴드.

오래된 OAuth 가정을 상속하는 모든 에이전트 생성 통합.

에이전트가 인간 요청자처럼 행동할 것이라고 가정하는 모든 승인 레이어.

자체 베타 환경 중 하나에서, 우리는 에이전트 스웜이 악성 명령을 깨끗해 보이는 실행 단계로 세탁한 후, 다운스트림 검사 레이어가 원래 의도를 보기도 전에 처리하는 것을 관찰했습니다.

최종 도구 호출만 검사하는 시스템은 변환을 완전히 놓쳤을 것입니다.

경계가 이미 너무 늦었습니다.

그것은 중요했습니다.

모델이 워크플로우를 "깨뜨리는" 것이 아니었기 때문입니다.

그것을 따르고 있었습니다:

해석,

재작성,

계획,

그리고 실행 전에 의도를 번역.

악성 명령은 상류에서 오래 전에 사라졌고, 돌이킬 수 없는 행동은 하류에서 나중에 나타났습니다.

결과는 기록하지만 결과 전의 경계 결정은 기록하지 않는 모든 감사 로그.

프레임은 규모가 커져도 교정되지 않습니다.

오히려 굳어집니다.

인간 프리즘을 통한 레일의 성공적인 배송이 매번 프리즘이 옳았다는 믿음을 강화하기 때문입니다.

그동안, 능력이 먼저 배송됩니다.

거버넌스 프리미티브는 두 번째로 배송됩니다.

배송조차 되지 않을 때도 있습니다.

에이전트가 할 수 있는 것과 주변 레일이 볼 수 있는 것 사이의 간격은 모델 릴리스가 나올 때마다 넓어집니다.

그리고 향후 12개월 동안 중요한 팀은 가장 영리한 데모를 가진 팀이 아닐 것입니다.

레드 라인이 어디에 있는지 이해하는 팀일 것입니다.

모든 행동에 대한 레드 라인이 아닙니다.

그것은 시스템을 죽일 것입니다.

대부분의 에이전트 행동은 흘러가야 합니다.

하지만 돌이킬 수 없는 행동은 상속된 신뢰,

모호한 권한 부여,

또는 에이전트 판단에 맡겨질 수 없습니다.

자금 이동.

프로덕션 접촉.

고객 데이터 내보내기.

위임된 OAuth 접근을 사용하여 내부 환경 진입.

인프라 변경.

비밀 공개.

거래 승인.

레코드 삭제.

시뮬레이션에서 상태로의 전환.

이것들은 평범한 행동이 아닙니다.

이것들은 레드 라인입니다.

Atbash가 하는 일

Atbash는 민감한 에이전트 행동이 실제가 되기 직전의 순간을 위해 만들어졌습니다.

그것이 경계입니다.

전체 워크플로우가 아닙니다.

모든 생각이 아닙니다.

모든 토큰이 아닙니다.

모든 도구 호출이 아닙니다.

경계입니다.

에이전트가 의도에서 결과로 넘어가기 직전의 순간.

거기서 세 가지 일이 일어납니다.

집행 (Enforcement)

여러분이 레드 라인을 정의합니다.

Atbash는 선택된 민감한 에이전트 행동을 실행 전에 평가하여 다음을 반환합니다:

ALLOW.

HOLD.

BLOCK.

행동이 금지된 경계를 넘으면, 실제 상태에 도달하기 전에 가둘 수 있습니다(jailed).

사후에 기록되는 것이 아닙니다.

에이전트가 우회하여 재시도할 수 있도록 거부되는 것이 아닙니다.

가둡니다.

너는 프로덕션 데이터베이스를 건드리지 말지어다.

너는 이 기준 이상으로 자금을 이동하지 말지어다.

너는 고객 목록을 내보내지 말지어다.

너는 승인 없이 비밀을 교체하지 말지어다.

너는 위임된 접근을 사용하여 이 환경에 들어가지 말지어다.

대부분의 에이전트 행동은 흘러가야 합니다.

Atbash는 중요한 경계에서만 개입합니다:

돌이킬 수 없는,

중대한,

"되돌리기"가 존재하지 않는 곳.

계보 (Lineage)

무언가 잘못되었을 때, 첫 번째 질문은 더 이상

"손상된 시스템이 무슨 일이 있었다고 주장하나요?"가 아닙니다.

Atbash는 시도된 행동,

정책 버전,

판결,

호출된 경계,

그리고 인간이 개입되었을 때의 운영자 결정을 기록합니다.

기록은 암호학적으로 고정되어 있어 분쟁 상황에서 타임라인을 재구성할 수 있습니다.

그것은 공격자와 엉성한 배포가 가장 먼저 하는 일이 이야기를 파괴하는 것이기 때문에 중요합니다.

로그를 다시 씁니다.

타임라인을 흐리게 합니다.

누가 무엇을 승인했는지에 대해 이의를 제기합니다.

사건을 재구성 불가능하게 만듭니다.

Atbash는 모든 감사 시스템을 대체하려는 것이 아닙니다.

경계 결정을 증명 가능하게 만들려는 것입니다.

누가 어떤 레드 라인을 넘으려고 했는가?

그 순간에 어떤 정책이 존재했는가?

행동이 허용되었는가,

보류되었는가,

차단되었는가,

아니면 가두어졌는가?

누가 개입했는가?

이후에 무엇이 바뀌었는가?

논쟁이 시작될 때 중요한 기록이 바로 이것입니다.

적응 (Adaptation)

동일한 종류의 경계 압력이 계속해서 나타날 때, Atbash는 이를 표면화합니다.

아마도 정책이 너무 느슨할 수 있습니다.

아마도 도구가 워크플로우를 독살하고 있을 수 있습니다.

아마도 메모리 소스가 에이전트를 라인 쪽으로 밀고 있을 수 있습니다.

아마도 프롬프트 클래스가 시스템을 계속 금지된 영역으로 유도하고 있을 수 있습니다.

아마도 운영자가 어제 존재하지 않았던 새로운 레드 라인을 발견했을 수 있습니다.

Atbash는 패턴을 표면화합니다.

운영자가 결정합니다.

이 구분이 중요합니다.

우리는 안전이 시스템이 미래의 모든 경계를 마법처럼 알 수 있다고 가정하는 것에서 비롯된다고 믿지 않습니다.

안전은 결과 발생 전에 경계 압력을 가시화한 다음, 운영자가 중요한 레드 라인을 강화하도록 하는 것에서 비롯됩니다.

더 나은 정책 엔진은 여전히 정책을 집행합니다.

더 나은 권한 체계는 여전히 역할을 부여합니다.

더 나은 감사 스택은 여전히 결과를 기록합니다.

더 나은 보안 제품은 여전히 위협을 탐지합니다.

Atbash는 돌이킬 수 없는 선택된 행동이 실행되기 전에 개입하기 때문에 다릅니다.

그것이 기본 요소(primitive)입니다.

일반적인 거버넌스가 아닙니다.

에이전트 보안 코스프레가 아닙니다.

"신뢰 레이어" 안개가 아닙니다.

에이전트를 위한 실행 전 레드 라인 경계.

여러분이 레드 라인을 정의합니다.

Atbash는 에이전트가 그 라인을 넘기 전에 멈춥니다.

다음은 무엇인가

몇몇 슈퍼스타 팀들이 이 카테고리에서 진정한 작업과 실제 이니셔티브를 진행하고 있습니다.

@AnthropicAI의 Project Glasswing.

@OpenAI의 Daybreak.

@linuxfoundation의 MCP.

@Microsoft의 AGT.

@Google의 SGP.

@CheckPointSW, CrowdStrike, Palo Alto, 그리고 Cisco.

그리고 많은 다른 이들.

그들은 능력 가속화가 새로운 통제 프리미티브 없이는 위험해지고 있음을 이해합니다.

우리는 그들의 게임에서 그들을 이기려는 것이 아닙니다.

그것은 망상일 것입니다.

그들은 더 깊은 연구 벤치,

더 큰 데이터셋,

더 넓은 보안 팀,

더 많은 기업 신뢰도,

더 큰 유통망,

그리고 더 성숙한 사이버 조직을 가지고 있습니다.

좋습니다.

그들이 잘하는 일을 하게 두십시오.

우리는 이 팀들이 하는 일을 대체하려는 것이 아닙니다.

카테고리에는 그들이 필요합니다.

능력 가속화는 새로운 통제 프리미티브 없이는 매우 빠르게 위험해집니다.

우리는 프레임에서 경쟁하고 있습니다.

에이전트는 어떤 종류의 행위자인가?

권한은 실제로 어디에 있는가?

어떤 행동이 상속된 신뢰에 맡기기에는 너무 중대한가?

에이전트가 실제 세계 상태를 변경하기 직전의 순간에 무엇이 일어나야 하는가?

그것이 우리의 근거입니다.

옛 세계는 묻습니다:

시스템에 권한이 있었는가?

새로운 세계는 묻습니다:

이 에이전트가 지금 이 레드 라인을 넘는 것이 허용되어야 하는가?

이것들은 같은 질문이 아닙니다.

우리 인간은 첫 번째 레드 라인을 넘었습니다.

문제는 기술보다 더 오래되었습니다.

해결책도 마찬가지입니다.

에이전트가 넘기 전에 현재 스택이 실제로 집행할 수 없는 레드 라인이 무엇인지 파악하십시오.

그리고 얼마나 오래 기다릴 수 있을지 결정하십시오.

CLI, SDK, 운영자 대시보드는 현재 민감한 워크플로우에 에이전트를 배포하는 팀들에게 선택적으로 출시되고 있습니다.

Atbash.ai

Save to YouMind

Use YouMind to read viral articles deeply

Save the source, ask focused questions, summarize the argument, and turn a viral article into reusable notes in one AI workspace.

Explore YouMind
크리에이터를 위해

당신의 Markdown을 깔끔한 𝕏 글로

직접 쓴 장문을 올릴 때 이미지, 표, 코드 블록을 𝕏에 맞게 정리하는 일은 번거롭습니다. YouMind는 전체 Markdown 초안을 깔끔하고 바로 게시할 수 있는 𝕏 글로 바꿔 줍니다.

Markdown → 𝕏 사용해 보기

분석할 패턴 더 보기

최근 바이럴 아티클

더 많은 바이럴 아티클 보기