AI 에이전트와 로봇이 실제 업무에 투입됨에 따라, 채택을 결정하는 것은 지능만이 아닙니다. 증거, 책임성, 그리고 신뢰가 중요합니다.
모두가 AI가 얼마나 지능적이 될지 궁금해합니다.
저는 계속 다른 질문을 생각하고 있습니다.
우리는 어떤 AI를 진정으로 신뢰할 수 있는지 어떻게 알 수 있을까?
왜냐하면 지능만으로 AI 경제가 구축되지는 않기 때문입니다.
모델은 시연에서 인상적일 수 있습니다.
에이전트는 신중하게 선택된 작업을 완료할 수 있습니다.
로봇은 통제된 비디오에서 완벽하게 작동할 수 있습니다.
하지만 실제 채택은 시연이 끝난 후에 시작됩니다.
비즈니스가 다음과 같은 질문을 던질 때 시작됩니다.
이것이 우리 환경에서 작동할까?
우리 시스템에 연결될 수 있을까?
누가 만들었지?
어떤 정보에 접근할 수 있나?
문제가 생겼을 때 어떻게 작동하지?
누가 책임을 지는가?
그리고 비용을 지불할 가치가 있을까?
이러한 질문들은 로봇이 걷거나 에이전트가 애플리케이션을 만드는 것을 보는 것만큼 흥미진진하지는 않습니다.
하지만 어떤 제품이 살아남을지를 결정할 수도 있습니다.
우리는 어려운 단계에 접어들고 있습니다
AI 제품을 구축하는 것은 점점 더 빨라지고 있습니다.
이제는 소규모 팀이 몇 주 안에, 예전에는 대기업과 막대한 자금, 그리고 수개월의 개발이 필요했을 것을 만들어낼 수 있습니다.
혁신에는 좋은 일입니다.
하지만 또 다른 문제를 만듭니다.
제품의 수는 우리가 그것들을 평가할 수 있는 능력보다 훨씬 빠르게 증가하고 있습니다.
AI 디렉토리를 열어보면 패턴이 명확해집니다.
수천 개의 도구.
비슷한 설명.
대담한 약속.
매우 부족한 맥락.
보통 제품이 무엇을 하는지 볼 수 있습니다.
다음을 이해하는 것은 훨씬 어렵습니다.
- 일관되게 작동하는지;
- 사람들이 이미 사용하고 있는지;
- 어떤 시스템을 지원하는지;
- 내 데이터는 어떻게 되는지;
- 제작자가 내년에도 여전히 존재할지;
- 그리고 그 제품이 대안보다 진정으로 더 나은지.
발견은 선택지를 제공합니다.
신뢰는 결정을 내리는 데 도움을 줍니다.
AI 생태계는 현재 전자는 풍부하지만 후자는 충분하지 않습니다.
5분짜리 시연은 증거가 아닙니다
AI가 화면을 넘어설수록 이것은 더 중요해집니다.
챗봇이 형편없는 답변을 하는 것은 실망스럽습니다.
소프트웨어 에이전트가 잘못된 재정 또는 운영 결정을 내리는 것은 비용이 많이 들 수 있습니다.
로봇이 창고, 병원 또는 공공 장소에서 잘못 작동하는 것은 위험해질 수 있습니다.
그것은 기준을 바꿉니다.
우리는 물리적 AI를 일반 모바일 애플리케이션과 같은 방식으로 평가할 수 없습니다.
세련된 인터페이스만으로는 충분하지 않습니다.
바이럴 비디오만으로는 충분하지 않습니다.
많은 팔로워 수만으로는 충분하지 않습니다.
아무도 그 테스트가 발생한 조건을 이해하지 못한다면, 성공적인 테조차도 충분하지 않습니다.
AI가 실제 업무, 금전, 인프라 및 인간 안전에 가까워질수록 더 많은 증거가 필요합니다.
그 증거에는 성과 이력, 검증된 배포, 기술 호환성, 사용자 피드백, 보안 정보, 독립적인 테스트 및 명확한 책임 소재가 포함될 수 있습니다.
모든 제품이 모든 형태의 검증을 필요로 하는 것은 아닙니다.
하지만 "저를 믿으세요, 작동합니다"는 통하지 않을 것입니다.
다음 AI 승자는 가장 시끄러운 쪽이 아닐 수도 있습니다
오늘날, 관심이 어떤 제품이 발견되는지를 결정하는 경우가 많습니다.
최고의 런칭.
가장 강력한 개인 브랜드.
가장 큰 광고 예산.
가장 극적인 시연.
하지만 관심과 품질은 같은 것이 아닙니다.
아마도 우리 대부분이 들어본 적 없는 사람들이 지금 바로 구축하고 있는 훌륭한 AI 제품과 로봇 공학 프로젝트가 있을 것입니다.
그들은 깊은 기술 지식을 가지고 있지만 유통 채널은 제한적일 수 있습니다.
그들은 실리콘 밸리 밖에서 활동하고 있을 수도 있습니다.
하루에 열 번씩 게시하는 창업자가 없을 수도 있습니다.
그들은 농업, 물류, 의료, 교육 또는 제조 분야에서 수백만 뷰를 즉시 끌어모으지 않는 중요한 문제를 해결하고 있을 수도 있습니다.
그렇다고 해서 그들이 보이지 않아야 하는 것은 아닙니다.
기능하는 AI 경제는 인기 경쟁에서 먼저 승리하지 않고도 신뢰할 수 있는 혁신이 신뢰를 얻을 수 있는 방법을 필요로 합니다.
또한 구매자, 파트너 및 투자자가 서로 연결되지 않은 웹사이트, 비공개 그룹 및 스프레드시트를 수 주일 동안 검색하지 않고도 기회를 비교할 수 있는 방법이 필요합니다.
이것은 단지 발견의 문제가 아닙니다.
신뢰 인프라의 문제입니다.
신뢰가 실제로 의미해야 하는 것
"신뢰할 수 있는"은 기업들이 너무 쉽게 사용하는 단어 중 하나입니다.
그래서 저는 그것을 더 실용적으로 정의하려고 노력해 왔습니다.
저에게 AI 제품에 대한 신뢰는 다섯 가지에서 비롯되어야 합니다.
- 정체성 (Identity)
누가 만들었습니까?
제작자나 회사를 확인할 수 있습니까?
사용자는 유지 관리를 책임지는 사람이 누구인지 이해할 수 있습니까?
익명의 실험은 나름의 자리가 있습니다.
하지만 상업적 채택에는 책임 소재가 필요합니다.
- 증거 (Evidence)
통제된 시연 밖에서도 제품이 성능을 발휘합니까?
주장 뒤에 실제 사용자, 결과, 테스트 또는 배포 사례가 있습니까?
증거는 신규 프로젝트와 성숙한 기업에 따라 다르게 보일 것입니다.
중요한 것은 그 차이에 대해 솔직해지는 것입니다.
- 투명성 (Transparency)
제품은 무엇을 합니까?
무엇을 하지 않습니까?
어떤 데이터를 사용합니까?
어떤 권한이 필요합니까?
한계는 무엇입니까?
신뢰가 모든 코드 라인을 공개할 것을 요구하지는 않습니다.
정보에 입각한 결정을 내릴 수 있는 충분한 정보를 사람들에게 제공해야 합니다.
- 평판 (Reputation)
다른 사람들이 사용했을 때 어떤 일이 일어났습니까?
잘 작동했습니까?
지원은 가능했습니까?
문제는 적절하게 처리되었습니까?
평판은 빈약한 평점으로 조작되는 것이 아니라 실제 활동을 통해 얻어져야 합니다.
- 책임 (Accountability)
시스템이 실패하면 어떻게 됩니까?
조치를 검토할 수 있습니까?
접근 권한을 제거할 수 있습니까?
거래에 이의를 제기할 수 있습니까?
문제를 해결할 책임이 있는 사람이나 조직이 있습니까?
신뢰의 시험은 무언가가 절대 실패하지 않는지 여부가 아닙니다.
모든 것은 결국 실패합니다.
시험은 실패를 이해하고, 통제하며, 수정할 수 있는지 여부입니다.
신뢰가 벽이 되어서는 안 됩니다
여기에는 또 다른 측면이 있습니다.
신뢰 시스템이 잘못 설계되면, 기존 기업을 보호하고 다른 모든 사람들을 차단할 수 있습니다.
그것은 실수일 것입니다.
새로운 개발자가 진지하게 받아들여지기 위해 수백만 달러의 자금, 유명 투자자 또는 값비싼 인증이 필요해서는 안 됩니다.
신뢰 인프라의 목적은 누가 혁신할 수 있는지 결정하는 것이 되어서는 안 됩니다.
사람들이 자신이 보고 있는 것을 이해하도록 도와야 합니다.
프로토타입 단계의 프로젝트는 그것을 명확하게 말할 수 있어야 합니다.
프로덕션 준비가 완료된 제품은 그 이유를 입증할 수 있어야 합니다.
실험적인 로봇은 상업적으로 입증된 것처럼 제시되어서는 안 됩니다.
하지만 여전히 발견되고, 지원되며, 개선될 자리가 있어야 합니다.
목표는 모든 프로젝트를 동등하게 보이게 하는 것이 아닙니다.
그것은 그들의 차이점을 눈에 보이게 만드는 것입니다.
이는 창작자에게는 더 공정한 환경을, 구매자에게는 더 안전한 환경을 만듭니다.
NexoraX 를 구축하면서 배우는 것
제가 NexoraX에 대해 진지하게 고민하기 시작했을 때, 발견이 명백한 문제처럼 보였습니다.
AI 도구, 에이전트, 로봇 공학 제품, 연구 프로젝트 및 창작자가 수많은 플랫폼에 흩어져 있습니다.
그것들을 더 가깝게 모으는 것 자체가 이미 가치 있어 보였습니다.
하지만 이 여정을 깊이 파고들수록, 발견은 단지 현관문일 뿐이라는 것을 깨닫습니다.
사람들은 단순히 더 많은 것을 둘러볼 필요가 없습니다.
그들은 자신이 보고 있는 것을 이해할 더 나은 방법이 필요합니다.
맥락이 필요합니다.
신호가 필요합니다.
증거가 필요합니다.
그리고 궁극적으로, 행동을 취할 수 있는 충분한 확신이 필요합니다.
이는 제품을 시도해보는 것일 수도 있습니다.
구매하는 것.
배포하는 것.
제작자를 지지하는 것.
회사와 파트너 관계를 맺는 것.
또는 프로젝트가 발전하는 동안 지켜보는 것일 수도 있습니다.
저는 여전히 올바른 시스템이 어떤 모습이어야 하는지 배우고 있습니다.
일부 해답은 기술에서 나올 것입니다.
많은 해답은 빌더, 구매자, 연구자, 투자자 및 실제 세계에서 이러한 시스템을 사용할 것으로 예상되는 사람들의 이야기를 듣는 데서 나올 것입니다.
이것이 제가 모든 것이 완성되기 전에 이 여정을 공유하는 이유 중 하나입니다.
지금 이 생태계에 진입하는 사람들은 그것이 어떻게 발전할지에 대한 의견을 가질 수 있어야 합니다.
진정한 AI 경쟁
대중적인 AI 경쟁은 일반적으로 지능을 위한 경쟁으로 묘사됩니다.
누가 가장 강력한 모델을 가지고 있는가?
가장 유능한 에이전트는?
가장 빠른 로봇은?
그러한 질문들은 중요합니다.
하지만 그 아래에서 또 다른 경쟁이 형성되고 있습니다.
누가 AI를 이해할 수 있게 만들 수 있을까?
누가 그것을 신뢰할 수 있게 만들 수 있을까?
누가 혁신을 필요로 하는 사람들과 연결할 수 있을까?
누가 실험을 질식시키지 않으면서 확신을 만들어낼 수 있을까?
지능은 AI를 강력하게 만들 것입니다.
신뢰는 그것을 사용 가능하게 만들 것입니다.
그리고 신뢰 없이는, 오늘날 만들어지고 있는 많은 혁신이 시연 단계를 넘지 못할 수도 있습니다.
우리는 아직 초기 단계입니다.
하지만 이것이 앞으로 올 모든 것을 형성할 질문 중 하나라고 저는 믿습니다.
