Сем Альтман. Я хочу розширювати межі можливого

Мені цікаві керівники, які самі працюють з інструментами, що змінюють їхній бізнес. Тобі Лютке пише код, випробовує моделі, перебудовує робочі процеси. Він відчуває технологію через власний досвід.

Водночас я помилявся щодо швидкості змін. Після GPT-4 очікував, що програмний бізнес почне перебудовуватися значно швидше. Але економіка має величезну інерцію. Тепер я бачу в цьому й користь: перехід буде повільнішим, а отже, може виявитися м’якшим.

У мене є Codex, але я досі часто користуюся комп’ютером так, як двадцять років тому. Переглядаю пошту, переношу інформацію між застосунками, веду список справ. Десь у голові закріпилося: саме ці дії означають, що я працюю.

Частково справа в продуктах: ми ще не зробили новий спосіб взаємодії достатньо природним. Це нагадує смартфони до iPhone. Технології існували, але бракувало рішення, яке змінить поведінку.

Керувати дослідженнями багато в чому схоже на інвестування у стартапи. Найкраща ставка може дати більше, ніж усі інші разом. Високий ризик має сенс, якщо результат у разі успіху буде винятково цінним.

Я шукаю людей із самостійним мисленням і власними переконаннями, готових обстоювати їх, навіть коли вони непопулярні. Ці люди можуть помилятися. Але якщо мають рацію, це здатне багато змінити.

У дитинстві я проводив час за комп’ютером, читав наукову фантастику, захоплювався роботами. Штучний інтелект здавався чимось неймовірним. Згодом в університеті професор сказав, що глибоке навчання не працює. Я повірив і пішов займатися іншими речами.

Інвестування дало досвід, який знадобився в OpenAI. Я спостерігав, як різні компанії проходять через вирішальні моменти. Коли сам опиняюся перед складним вибором, згадую, як схоже рішення допомогло комусь або стало помилкою.

Мені завжди хотілося перевірити те, що називали неможливим. Спробувати й подивитися, що станеться. Що недосяжнішою здавалася річ, то сильніше вона мене захоплювала.

Сьогодні особливо надихає можливість прискорити наукові відкриття. Краще зрозуміти фізику, знайти способи лікувати хвороби, розв’язати нові математичні задачі. Розуміння світу дає нам змогу робити те, чого раніше ми не могли.

Припустімо, дві моделі створять цікавішу розмову, ніж ми з Девідом. Чи означає це, що люди захочуть слухати саме їх? Особистість співрозмовника має значення.

Я глибоко вірю, що люди й надалі тягнутимуться до людей. Багато професій зміниться, а цінність стосунків, живої присутності й людської уваги може зрости. Навіть у світі надзвичайно розумних машин нам буде важливо, з ким ми проживаємо своє життя.

Найбільше мене турбують два ризики: ми можемо втратити контроль над ШІ, або влада надто зосередиться в однієї компанії, моделі чи людини.

Мене не влаштовує обіцянка достатку в обмін на відмову від самостійності. Люди не повинні погоджуватися на світ, де невелика група вирішуватиме все, а їм залишаться комфорт і розваги.

Страх перед ризиками буває настільки сильним, що ним починають виправдовувати концентрацію влади. Ми маємо разом визначати майбутнє. Технологія повинна давати для цього більше можливостей.

З потужною технологією треба бути обережними. Але я не вважаю проблему безпеки нерозв’язною.

Мій підхід — поступово випускати системи у світ, отримувати відгуки, бачити, де вони працюють і де дають збій. Неможливо передбачити все, залишаючись у лабораторії.

Мені близький досвід авіації: ретельно фіксувати інциденти, з’ясовувати причини, робити висновки й ділитися ними. Іноді доведеться затримувати розробку й довше досліджувати систему.

Людей лякають швидкі зміни, і я розумію цей страх. Сама індустрія ШІ недостатньо пояснює, яку користь може принести технологія і як зменшити її негативні наслідки. Ми багато говоримо про ризики, але мало — про особисту свободу.

Базовий дохід чи можливість не працювати не дають відповіді на всі запитання. Людям важливо впливати на своє майбутнє, втілювати ідеї, створювати компанії.

Не кожен хоче побудувати велику корпорацію. Багато хто хотів би мати невелику власну справу. Досі для цього часто бракувало ресурсів і можливостей. ШІ може знизити цей поріг.

Я не можу прочитати всі повідомлення, відгуки користувачів і наукові роботи. Хотів би мати агента, який опрацьовує цю інформацію й допомагає мені тоді, коли потрібно ухвалити рішення.

Навіть дуже розумні люди обмежені часом, пам’яттю та енергією. Важливо навчитися давати моделям контекст, який жодна людина не здатна втримати цілком.

Я бачу OpenAI платформою: прямий інтерфейс до ШІ та API, за допомогою якого люди можуть будувати власні рішення. Нам не потрібно створювати кожну категорію продуктів і конкурувати з усіма клієнтами.

Найскладніше — пожертвувати хорошою ідеєю заради важливішої. Сам я теж погано це роблю. Але кількість людей та обчислювальних ресурсів обмежена. Ми відмовилися від Sora та Atlas, щоб спрямувати ресурси на пріоритетніші завдання.

У дослідженнях моя опора — давні колеги. У складних питаннях бізнесу звертаюся до Пола Грема й Пітера Тіля. Вони можуть запропонувати варіант, якого я взагалі не бачив.

Коли після запуску ChatGPT ми розглядали інші напрями, Тіль порадив подвоїти зусилля саме тут. Просте поле, у яке можна ввести будь-який запит, уже мало величезний потенціал.

Грем навчив рано випускати першу версію, навіть якщо за неї трохи соромно. Зворотний зв’язок допоможе зробити її кращою. Y Combinator також змінив середовище: молоді технічні засновники отримали більше самостійності й можливість братися за амбітні справи.

Варто вчитися на всьому. Але розуміння того, що спрацювало в Y Combinator чи OpenAI, допомагало мені більше, ніж висновки з невдач. Причини провалу не завжди очевидні.

При цьому для OpenAI готового рецепта не було. Чотири з половиною роки ми працювали без першого продукту. Довелося шукати інші ознаки прогресу: порівнювати дослідницькі результати, проводити демонстрації. Штучні дедлайни не працювали.

Пам’ятаю перший день у квартирі Грега Брокмана. Близько дванадцяти людей, величезне захоплення — і раптом ніхто не знає, що робити далі. Ми поступово знаходили спосіб працювати, оцінювати ідеї та рухатися вперед.

Після народження сина я почав писати йому листи: що відбулося за день, що турбувало, з чим було важко. Написав близько восьми, але цей досвід запам’ятав.

Коли пишеш своїй дитині, важко за чимось сховатися. Мені справді важливо, що вона думатиме про мене. Якщо сьогодні сталося щось, чим я не задоволений, наступного тижня хочеться діяти інакше.