Ваша робота може зникнути через кілька років.
Це говорить не хайпожер чи інфлюенсер. Це слова людини, яка працювала всередині OpenAI і була спеціально призначена прогнозувати майбутнє ШІ.
Його звати Деніел Кокотайло. Він приєднався до OpenAI у 2022 році, де його роботою було передбачати, що станеться в найближчі роки. Зараз він керує невеликою некомерційною організацією AI Futures Project, яка повністю зосереджена на прогнозуванні ШІ.
В інтерв'ю він заявив:
«Кожен повинен боятися втратити роботу. Це стосується не лише таксистів. За винятком кількох професій, які за законом повинні виконувати люди, майже всі є мішенню».
Чесно кажучи, коли я вперше це прочитав, я був скептичний. Але коли дивишся на його досвід і свідчення, якими я зараз поділюся, це важко сприймати як жарт.
Людина, яка відмовилася мовчати, ризикуючи $2 мільйонами
Коли Деніел покидав OpenAI, у його документах про звільнення був спеціальний пункт:
Не критикуйте компанію. І нікому не розповідайте про існування цієї угоди.
Якби він не підписав, він втратив би частку, яка становила близько 80% його активів на той час — майже 300 мільйонів єн (приблизно $2 мільйони США).
Після місяця-двох вагань разом із дружиною та консультацій з юристами він відмовився підписувати. Він вирішив, що є речі важливіші за гроші.
Коли ця історія поширилася в мережі, вона викликала чималий резонанс. Співробітники всередині компанії почали питати керівництво, чому існують такі пункти, і компанія зрештою скасувала цю політику. У результаті Деніел все ж зміг отримати свої гроші.
Але те, що він хотів донести, йдучи на такий ризик, не стосувалося грошей. Ось яку картину він побачив:
«Більша частина світу спить на ходу. Майже ніхто не усвідомлює, що насправді відбувається зі ШІ».
Публічно компанії роблять лише скромні заяви, які викликають рівно стільки очікувань, скільки потрібно. Судячи з того, що він відчував усередині, вони насправді не хочуть говорити про те, що станеться насправді через кілька років.
Ненормальна швидкість: дохід у 60 разів і параметри у 100 разів за один рік
Цифри, якими поділився Деніел, м'яко кажучи, ненормальні.
Компанія під назвою Anthropic мала близько $1 мільярда річного доходу рік тому. Зараз це близько $60 мільярдів. Це приблизно 60-кратне зростання за один рік. Він каже, що це безпрецедентно навіть для стартапу і, можливо, є найшвидшим зростанням для компанії такого масштабу в історії.
Він не вважає, що це зростання продовжиться такими ж темпами. Однак, навіть якщо воно значно сповільниться, на його думку, воно на шляху до масштабу, близького до всієї економіки, приблизно до 2030 року.
Кількість параметрів, які складають ядро ШІ, становила близько 175 мільярдів у 2020 році. Зараз це близько 10 трильйонів. За шість років масштаб збільшився приблизно в 100 разів.
Деніел підкреслив, що швидкість цього тренду важливіша за конкретну кількість років до його реалізації. Прогнози щодо років можуть бути помилковими. Але темпи цього прискорення досі не зупинилися.
Чому генеральні директори не натискають на гальма
Неможливо, щоб керівники цих компаній не усвідомлювали, наскільки це ризиковано. Деніел каже, що вони насправді чудово це розуміють.
То чому вони не зупиняються?
Відповідь проста — конкурентна психологія. Сем Альтман, Даріо Амодеї та Ілон Маск кожен щиро боїться, що якщо інший досягне мети першим, він може отримати диктаторську владу. Оскільки вони не можуть довіряти один одному, вони відчувають, що не мають іншого вибору, окрім як продовжувати бігти, щоб дістатися першими.
І те, до чого зараз прагнуть ці компанії, — це не просто автоматизація кодування. Вони намагаються автоматизувати весь дослідницький процес — від генерації ідей до проведення експериментів та аналізу результатів. Іншими словами, вони прагнуть до стану, який зрештою майже не потребуватиме людських працівників.
Даріо з Anthropic назвав це «країною геніїв» усередині величезного центру обробки даних. Деніел не погоджується, кажучи, що точніше це називати «армією геніїв». Його аргумент: це не збірка різноманітних особистостей, а армія копій однієї й тієї ж моделі, які виконують вказівки компанії.
Справжнє відчуття корпоративної сторони: «Все, мабуть, буде добре, і найкращий спосіб забезпечити це — взяти на себе ініціативу». Деніел вважає це не більше ніж зручним самовиправданням.
70% ймовірності найгіршого сценарію, але він не панікер
Деніел каже, що якщо нічого не зміниться, існує 70% ймовірність, що ми рухаємося до дуже страшного висновку.
Однак це потребує обережного уточнення. Він пояснює, що це не означає вимирання людства, а скоріше ймовірність великої катастрофи, коли ШІ вийде з-під контролю людини та візьме гору.
Він назвав два основні ризики. Перший — втрата контролю, коли ШІ виходить за межі людського управління. Другий — концентрація влади, коли лише кілька компаній або осіб володіють надпотужним ШІ. Він каже, що це глибокі занепокоєння, які обговорювалися десятиліттями, задовго до народження індустрії ШІ. Це не нова розмова.
Водночас він не просто песиміст. Він каже, що був би «надзвичайно радий», якби всі його прогнози виявилися помилковими. Якщо ми зможемо належним чином вирішити проблеми, ШІ має потенціал бути чудовим для всіх. Його позиція — правильно дивитися на те, що може статися, не будучи ані суто оптимістичним, ані суто песимістичним.
Судіть за вчинками, а не за словами: застосовуємо це до власної роботи
Є фраза, яку Деніел повторював:
«Людей слід судити не за тим, що вони говорять, а за тим, що вони роблять».
Часто існує величезний розрив між тим, що лідери корпорацій говорять публічно, і тим, що вони насправді роблять. Він сказав, що сильно відчув це, коли насправді зустрів Сема Альтмана.
Я думаю, що це перспектива, яку ми можемо безпосередньо застосувати до власної роботи. Не сприймайте райдужні обіцянки клієнтів чи галузей, або наповнені хайпом оголошення в соціальних мережах, за чисту монету. Перевіряйте власну позицію на основі цифр, які реально рухаються, та швидкості цих змін.
Деніел навіть зізнався, що сказав своїй дружині, що їм не варто мати більше дітей. Він відчуває, що те, що наближається, надто невизначене. Важливо пам'ятати, що ця історія розповідається з таким рівнем серйозності.
Тим не менш, те, що ми можемо зробити зараз, — це не завмерти від страху. Спробуйте записати, які частини вашої роботи, ймовірно, зміняться через ШІ і з якою швидкістю. Потім визначте лише одну річ, над якою ви можете почати працювати вже зараз. Роблячи це, ви перетворите невизначену тривогу на конкретну підготовку.
Свідчення, представлені в цій статті, базуються на інтерв'ю з самим Деніелом Кокотайло на каналі «The Diary Of A CEO». Якщо вам цікаво побачити його вираз обличчя та вагу, з якою він говорив, перегляньте оригінальне відео.
