Здається, ми готові повірити майже в усе щодо майбутнього ШІ, окрім того, що звичайні люди можуть мати над ним контроль.
Персональний ШІ відкрив двері системам із безпрецедентним доступом до нашого життя. І щойно ми почнемо покладатися на них у прийнятті рішень та діях від нашого імені, питання того, хто контролює цей інтелект, стане надзвичайно важливим.
Як ніколи раніше, ми маємо будувати майбутнє, яке належатиме людині.
Те, чим ти володієш — кращий продукт.
В епоху інтернету для централізації були фундаментальні причини.
Маркетплейси на кшталт Amazon, Uber чи DoorDash працювали лише тому, що попит і пропозиція збиралися в одному місці. Facebook чи Instagram були корисними, бо всі твої знайомі вже там сиділи. А продукти типу Google вирішували технічні задачі такого колосального масштабу (петабайти даних), що підняти їх самотужки було просто нереально. У всіх цих випадках створювати власну версію не мало жодного сенсу.
З персональним ШІ все інакше. Його цінність визначається не тим, скільки інших людей користуються тією самою системою, а тим, наскільки повно він стає твоїм.
Найкорисніший персональний агент матиме повний контекст усього твого життя. Від електронної пошти, медичних карток і фінансів до розмов, які ти ведеш, та пристроїв у твоєму домі. Якщо ти не довіряєш компаніям, яким це все передаєш, вузьким місцем стає вже не інтелект моделі, а обсяг доступу, який ти готовий їй надати.
Володіння машиною, на якій працює твій агент, усуває цей компроміс. Ти отримуєш усю користь від своїх даних, не хвилюючись, що їх відправлять третім сторонам складувати й аналізувати.
Виділене обладнання також кардинально збільшує обсяг роботи, яку інтелект може виконувати для тебе. Коли жоден провайдер не виставляє рахунок за кожен додатковий токен, ми можемо запускати моделі, що безперервно обробляють нову інформацію в реальному часі й діють проактивно. Якщо все зробити правильно, ШІ дуже швидко навчиться приносити більше користі завдяки розумінню того, що відбувається у твоєму житті, ніж ти коли-небудь зможеш витиснути з нього за допомогою промптів.
З часом твій агент має почати мислити, відповідати й працювати інакше, ніж мій, адже наші життя та наші бажання відрізняються. Це має бути правдою на кожному рівні: від контексту, з яким працює агент, до програмної оболонки і навіть самих ваг моделі.
Інтелект — це влада.
Тож виникає питання: кому дістануться вигоди від такої системи?
Чим здібнішим і необхіднішим у нашому житті стає ШІ, тим могутнішим стає той, хто ним володіє. Якщо ми віддамо контроль над інтелектом купці лабораторій та техногігантів, ми дамо їм одноосібне право вирішувати, як цей інтелект має розуміти світ і діяти в ньому.
Кому можна довірити стільки влади?
Якщо лабораторія заявляє, що знає, що найкраще для людства, це не дає їй права централізовано нав'язувати своє бачення. Попереднє покоління технологічних компаній давало схожі моралізаторські обіцянки («не будь злом»), але здавало позиції, щойно фінансові стимули розходилися з принципами.
Зрештою, якщо агент діє від мого імені, останнє слово щодо його поведінки має залишатися за мною. Ця влада повинна належати мені навіть тоді, коли компанія-розробник зі мною не згодна.
Справжня антиутопія — це уявити систему, побудовану на найчутливішій інформації з мого життя, яка належить корпорації вартістю в трильйони доларів і здається мені ж назад в оренду потокенно.
Чим більше себе ми довіряємо цим системам, тим менш прийнятним стає те, що право власності на них належить комусь іншому.
Люди заслуговують на вибір.
Ми небезпечно відірвалися від реальних почуттів людей щодо технологій, які створюємо.
Люди виходять на протести проти камер Flock, організовують кампанії, щоб не пустити Palantir у державні установи, обурюються через лабораторії, що тренують моделі на їхніх приватних даних, — а індустрія продовжує твердити, що «споживачам байдуже на конфіденційність». Ми обіцяємо їм достаток, водночас будуючи майбутнє, де вони володітимуть ще меншим і залежатимуть від нас ще більше. Чому ми взагалі очікуємо, що вони будуть від цього в захваті?
Роками ми робили стеження зручним, а володіння власними даними — складним. Але ми ледве почали пропонувати людям альтернативу.
Альтернативи з добрими намірами, як-от DuckDuckGo чи self-hosting, намагалися дати опір і повернути приватність, але вимагали миритися зі значно гіршим продуктом або робити всю роботу самостійно. Не можна просити споживачів обрати принцип замість кращого, простішого й часто безкоштовного досвіду.
Цей компроміс більше не є обов'язковим. Сьогодні ми маємо відкриті моделі, які працюють на потужному ноутбуці й видають інтелект рівня Sonnet-5 повністю локально. Протягом наступних трьох-шести місяців ми отримаємо сьогоднішній рівень Opus, що приватно працюватиме на споживчому обладнанні. Для 90% щоденних задач локальних моделей уже цілком достатньо.
Ми спостерігаємо, як можливості величезних централізованих систем переходять на машини, якими можуть володіти звичайні люди. Вперше обрати володіння не означає обрати менше.
Наш фокус
Умови, на яких ми впускаємо персональний ШІ у своє життя, ще тільки формуються. Але що здібнішими, інтимнішими й незаміннішими ставатимуть ці системи, то важче буде ці умови змінити.
Незалежні рішення, як-от локальний ШІ, здебільшого створювалися для ентузіастів та гіків. Наше завдання — зробити цей досвід настільки корисним і простим, щоб володіння стало стандартом за замовчуванням.
Я хочу жити у світі, де найпотужніша технологія, яку будь-коли створило людство, належить тим людям, чиє життя вона змінює. І ми маємо без жодних вибачень боротися за те, щоб її побудувати.
