말만 하세요

인간과 인간이 창작한 결과물의 가치를 평가하는 데에는 이상한 주장들이 따라다닙니다. 대개 이런 식이죠: AI 시대에도 특정 역할에는 여전히 인간이 선호되어야 하는데, AI는 그 역할에 필요한 작업을 절대 수행할 수 없기 때문이다. 또는 인간이 적어도 더 잘할 수 있다. 아니면 인간과 AI의 결과물이 비슷해 보일지라도, AI가 재현할 수 없는 미묘한 스타일상의 이유로 인간의 결과물이 더 낫다. 혹은 적어도 AI는 그것을 일관되게 재현할 수 없다. 골대 밑동 주변의 끊임없는 움직임으로 생긴 긁힌 자국을 관찰하라. 콘크리트가 양생되도록 28일을 기다려라.

이런 사고 방식은 결국 "인간은 고품질 결과물을 생산할 때 가치가 있다"는 말로 요약됩니다. 이 주장은 위험하게도 존재하지만 점점 좁혀지는 인간-AI 능력 격차에 의존합니다. 그 격차는 분명 과거(2023년 시절의 ChatGPT)에는 존재했습니다. 지금도 여전히 존재할 수 있습니다. 미래에도 유지될지는 저는 모르겠습니다.

대신 이렇게 생각해보세요

"인간은 가치 있습니다." 그냥 그렇게 말하면 됩니다. 인간으로서, 그렇게 말씀드리고 싶습니다. 자격 조건을 붙일 필요가 없습니다. 이것은 어떤 최신 벤치마크에서 선도적인 프론티어 모델의 특정 시점 점수에 조건부가 아닌, 견고한[1] 진술입니다.

"품질"의 특성

관련이 있지만 중요하게도 불필요한 여담으로: 창작 결과물의 품질은 어떻게 측정합니까? 효과적인가요? 의도한 일을 달성합니까? 이 질문은 품질의 두 가지 하위 구성 요소[2]를 암시합니다: 의도와 물질적 형태. 제가 보기에 많은 창작 결과물의 가치에 대한 주장은 의도를 희생하면서 형태에 너무 집중하는 경향이 있습니다.

창작은 의도를 형태로 증류하는 과정입니다. 의도는 대개 결과물의 형태에 불가분하게 내장됩니다. 인간은 자신의 창작물이 마음속에 그린 그림과 충분히 일치할 때까지 반복적으로(때로는 고되게) 다듬고 또 다듬습니다. 생성형 AI의 독특한 점은 최소한의 적용된 의도로도 상당한 형태를 생성할 수 있다는 것입니다. 인간이 달성하려는 의미에 대한 불분명한 정신 모델을 가지고 작업에 임해도, AI는 어쨌든 무언가를 생성할 수 있습니다. "상사에게 보낼 사직서를 작성해 줘." "음... 괜찮은 것 같은데."

아마도 "AI 쓰레기"라는 말은 실제로 형태 뒤에 숨은 의도를 식별하기 어렵다는 점을 표현하는 방식일 것입니다. 그 정의에 따르면, 인간도 쓰레기를 생성하는 데 매우 능숙합니다. 생성형 AI는 단지 의도 없는 형태를 만들기 위한 진입 장벽을 낮췄을 뿐입니다. 의도는 프롬프트에 표현된다고 말할 수 있습니다. 산문 텍스트 결과물의 경우, 잘 개발된 프롬프트는 아마도 이미 의도된 형태에 가까울 것입니다. 최근 LLM을 사용하여 인간 커뮤니케이션을 중개하는 것에 대한 대화에서, 제 친구 Tom Hudson이 저에게 말했습니다. "LLM을 사용해서 나에게 이메일을 쓸 거라면, 차라리 프롬프트를 그냥 보내주는 게 훨씬 낫겠어. 적어도 그러면 네가 실제로 무슨 말을 하고 싶었는지 알 수 있을 테니까."

생성형 AI의 병리 현상은 식별 가능한 의도 없이 상당한 형태를 너무 쉽게 허용한다는 것입니다. 그 실수는 손으로 직접 만들 때는 저지르기 더 어렵습니다.