Ставка Recursive у $670 млн на самовдосконалюваний ШІ, Sonnet 5.5 досягає 70%, Ілон співкерує ініціативою Пентагону ЕП 299

2г 25хв 123K переглядів 3 жов 2026

Чи варто це вашого часу?

Варто вашого часу, якщо ви хочете отримати детальний розбір того, як штучний інтелект прискорює біологічні відкриття, розвиває рекурсивне самовдосконалення та формує інфраструктуру оборони й обчислень.

Ця розмова досліджує, як штучний інтелект прискорює наукові відкриття, перетворює біологічну інженерію та стимулює нові комерційні й оборонні застосування. Доповідачі розглядають технічні та фізичні реалії, що визначають гонку до просунутого інтелекту.

Наукові відкриття за допомогою ШІ. Сочер стверджує, що штучний інтелект забезпечить століття наукових проривів протягом наступного десятиліття, об'єднавши кожен етап дослідницького процесу. Він зазначає, що біотехнологічні компанії створюють крихітні органоїди на чашках Петрі, які отримали схвалення Управління з продовольства і медикаментів на пропуск випробувань на тваринах, оскільки тестування лімфатичних вузлів доводить більшу передбачуваність для реакцій реального людського тіла, ніж випробування на мишах.

Рекурсивне самовдосконалення та суперінтелект. Сочер пояснює, що слабкі форми рекурсивного самовдосконалення вже функціонують, оскільки програмне забезпечення тепер може допомагати у написанні коду, хоча повністю автоматизовані цикли все ще перебувають у розробці. Він оцінює, що знадобиться кілька десятиліть, аби досягти штучного суперінтелекту, який перевершує людські можливості у десяти різних просторах міркувань, застерігаючи, що надання ШІ контролю над власним обланям вимагає абсолютно нових ланцюжків постачання напівпровідників.

Проєкт Meridian та автономна війна. Сочер попереджає, що штучний інтелект ніколи не повинен контролювати летальні рішення чи ядерні коди без нагляду людини, оскільки автономна війна становить серйозні оперативні ризики. Обговорення детально описує проєкт Meridian, ініціативу Пентагону під співкерівництвом Маска з розгортання систем для майбутніх військ у різних середовищах: від підземних до цильномісячного рубежу.

Дефіцит обчислень і менші моделі. Сочер зазначає, що придбання висококласного обладнання, такого як кластери GB200, залишається складним через запеклу конкуренцію, що призводить до зростання цін на старіші графічні процесори, такі як H100, протягом останніх місяців. Він пояснює, що організації обробляють швидкі рутинні завдання, спрямовуючи їх до недорогих систем класифікації на кшталт моделі Jev, зберігаючи дорогі моделі міркувань для складних стратегічних питань.

Рекурсивне самовдосконалення, ASI та майбутнє

Зошер пояснює, що слабкі форми рекурсивного самовдосконалення вже тут, хоча справжнє рекурсивне самовдосконалення ще не зовсім тут, залишаючись дуже близько. Він оцінює, що для досягнення штучного суперінтелекту знадобиться кілька десятиліть. Обговорячи нещодавню продуктивність моделей, він зазначає, що Sonnet 5.5 стрибнув з 10 відсотків до 70 відсотків на Terminal Bench, який вимірює агентів у складних завданнях командного рядка. Він припускає, що Anthropic намагається конкурувати з Китаєм, який відстає приблизно на три місяці, і сподівається заповнити цю прогалину до того, як підприємства перейдуть на моделі з відкритим кодом. Він бачить мало причин використовувати Sonnet 5.5 замість Opus 5.5, якщо немає конкретних обмежень щодо токенів або затримки, і заявляє, що не планує його використовувати.

Машина Еврики та наукові відкриття за допомогою ШІ

Сочер (Richard Socher) починає з пояснення головної ідеї своєї книги The Eureka Machine, яка полягає в тому, що штучний інтелект забезпечить сторіччя наукових проривів протягом наступного десятиліття. Він окреслює концепцію повноцінного стека штучного інтелекту, пояснюючи, що кожен етап наукового процесу — від гіпотези та експерименту до даних і теорії — об'єднується та трансформується одночасно. Він зазначає, що науковий прогрес сповільнився не через недофінансування, а через фрагментацію, оскільки дослідники розділені на вузькі піддисципліни та ніші, відокремлюючи клітинну біологію, молекулярну біологію та медицину. Штучний інтелект приходить, щоб знову зшити ці окремі частини разом і допомогти людству зрозуміти складні системи, перетворивши природничі науки з традиційного спостереження на програмовані інженерні науки.

Він окреслює основні складники, що зумовлюють цю трансформацію: загальносвітові знання у формі мовних моделей, цифрові наукові дані, кращі симуляції, робототизована автоматизація процесів та рої агентів, які автоматизують увесь науковий стек. Порівнюючи це з інформатикою, він зауважує, як просунулася абстракція, тож люди більше не програмують нулями й одиницями чи C++, спілкуючись із технологіями на рівні англійської та природної мови. Говорячи про часові рамки, він уникає якогось єдиного рубежу, де все вирішується водночас, натомість прогнозуючи, що простіші одногенні захворювання будуть вилікувані протягом наступних дванадцяти місяців, за ними підуть складніші хвороби та кращі матеріали для батарей, залежно від обсягу інвестицій у обчислювальні потужності.

Говорячи про стан математики, він відкидає ідею про те, що ця сфера «закінчилася», натомість стверджуючи, що вона процвітає, хоча й зазначає, що чисті інтелектуальні вправи без реального впливу залишаються позаду. Щодо термінів у медицині, він пояснює, що хоча біотехнологічні компанії прискорюють випробування з п'ятьма-десятьма сполуками на третьої фазі випробувань за два-три роки, клінічні випробування на людях у Сполучених Штатах стикаються з природними затримками та регуляторними схваленнями від Управління з продовольства і медикаментів, що робить пів десятиліття або десятиліття реалістичним часовим горизонтом для складних захворювань, тоді як хімія та фізика можуть ітерувати швидше без довгострокових випробувань на людях. Він погоджується з формулюванням ведучого про те, що штучний інтелект саме розквітає в математиці, а не деградує, і зазначає, що математики переорієнтовуються на оркестрування штучного інтелекту.

Сочер переходить до економіки, стверджуючи, що вона ще більше відстає, ніж біологія, продовжуючи використовувати лінійні моделі та відстаючи у впровадженні штучного інтелекту для прийняття політичних рішень. Він хвалить Eric Brynjolfsson і його роботу з Work Helix над впровадженням штучного інтелекту в компаніях, а також згадує свої інвестиції в Laya Science, яка створює науковий суперінтелект, що керує мільйоном квадратних футів робототехнічного простору для прискорення відкриттів. Він описує науковий метод як генерацію ідей, впровадження та валідацію, а також наголошує на важливості відкритих роїв, які можуть еволюціонувати та комбінувати ідеї в поєднанні з мокрими лабораторними експериментами.

Виділяючи ще одну інвестицію, Peril Bio, він описує, як вони створюють крихітні органоїди на чашках Петрі, використовуючи плюрипотентні стовбурові клітини. Вони домоглися схвалення Управління з продовольства і медикаментів на те, щоб пропустити випробування на тваринах, оскільки тестування органоїдів, таких як лімфатичні вузли для імунотерапії, доводить свою більшу прогностичну цінність щодо реальних реакцій людського організму, ніж випробування на мишах. Він зазначає, що фізика застрягла на дорогих методах збору даних, які вимагають великих адронних колайдерів, що робить біологію краще пристосованою для штучного інтелектту, оскільки нейронні мережі чудово справляються з поєднанням складних мікроярищ, що взаємодіють, таких як бактерії та нейрони, подібно до того, як чисельне обчислення допомогло фізиці.

Звертаючись до віртуальних клітин, Сочер пов'язує їх з гірким уроком Richard Sutton, який демонструє, що прості методи з використанням великих нейронних мереж, навчених від початку до кінця на масивних даних і обчислювальних потужностях, перевершують хитромудрі експертні хаки. Біологія наразі відображає минулий стан обробки природної мови, де експерти сумнівалися, що одна модель зможе впоратися з розмовою, але такі компанії, як Tahoe Therapeutics, тепер проводять масштабні дослідження збурень для збору даних. Він робить висновок, що віртуальні моделі та симуляції становлять третій стовп його книги і відіграватимуть вирішальну роль у вирішенні проблем біології та хвороб.

ШІ розшифровує мозок і майбутнє BCI

Розмова переходить до розшифрування мозку та нейроінтерфейсів, починаючи з дослідження Наукового інституту Вейцмана за допомогою системи Brain-It, яка відтворює зображення, на які дивиться людина всередині апарата fMRI, вивчаючи структуру та значення окремо. Система також може працювати навпаки — генерувати прогнозовані сканування мозку за невідомими зображеннями, хоча Сочер зазначає, що моделям наразі потрібне індивідуальне тренування для кожного унікального мозку. У розмові згадується довга історія візуального декодування — від лабораторії UC Berkeley до Meta та Neuralink, яка нещодавно оголосила про дослідження законів масштабування на базах основних моделей, використовуючи електронні дані з високою тимчасовою роздільною здатністю. Хоча fMRI має просторові обмеження приблизно в один кубічний міліметр і часові обмеження близько однієї секунди, дослідники продовжують витягувати сни та галюцинації, хоча повносмугові нейрокомп'ютерні інтерфейси вимагатимуть вищої точності. Сочер розрізняє декодування сприйняття та читання реальних думок, тоді як ведучий зазначає, що уявлення чогось активує ті самі нейрони, що й спостереження, пропонуючи потенційний інтерфейс для заміни друку та допомоги науці в розумінні роботи мозку. Сочер додає, що люди відрізняються тим, чи думають вони реченнями, чи розмитими хмарами думок, і цікавиться, як виглядало б навчання нейромережі без мови. Група обговорює алгоритми навчання, зазначаючи, що ШІ спирається на градієнтний спуск, тоді як біологія не знайшла нічого подібного, хоча детальне сканування зрештою може виявити фундаментальний алгоритм навчання. Градієнтний спуск визначається як алгоритм оптимізації, який мінімізує помилки, порівняно з сліпим туристом, який нащупує схил, щоб знайти найнижчу точку в не опуклому ландшафті, що Jihan порівнює з психологічними станами на кшталт ПТСР, де мозок застрягає в долині думок.

Розмова переходить до симуляцій мозку: зазначається, що Liquid AI реверс-інжинірувала мозок хробака C. elegans, щоб створити ефективний продукт на основі нейромережі. Сочер згадує професора нейронауки з Гарварду Sam Gershman, який вивчав хробаків C. elegans, тренуючи їх, розрізаючи навпіл і спостерігаючи, як половина без мозку відрощувала новий мозок, який зберігав ті самі спогади та реакції. Він припускає, що біологія спирається не лише на електричні сигнали, вказуючи на те, як хімічний склад мозку змінюється через голод, біль чи стимулятори, і як ДНК запускає приховані алгоритми, такі як будівництво гнізда після народження дитини.

Редагування генів, комарі та інженерна біологія

Ведучий згадує нещодавній указ, підписаний президентом, який доручає федеральним відомствам скоротити популяції інвазивних комарів у Вашингтоні на дев'яносто відсотків та кліщів на п'ятдесят відсотків до 2028 року, націлюючись на види, які поширюють такі захворювання, як денге, зіка та жовта лихоманка. Він наголошує, що указ надає пріоритет методам стерильних комах, безпечним генетичним модифікаціям та корисним бактеріям замість традиційних хімічних пестицидів, зазначаючи, що комарі є найсмертоноснішою формою життя на Землі, а малярія щороку вбиває пів мільйона людей. Гість додає, що це свідчить про прихід біологічної інженерії на рівень федеральної політики, згадуючи, як однокурсник з MIT на ім'я Kevin Esfelt заклав основи технології драйву генів за допомогою CRISPR для стерилізації комарів, але зіткнувся з величезними труднощами в отриманні схвалення від штатів та муніципалітетів. Він зазначає, що раніше технологія не мала федерального мандата на великомасштабну генетичну інженерію популяцій тварин, що тепер і забезпечує ця виконавча дія. Він підкреслює, що такий підхід уникає прямого знищення комах, дозволяючи їм жити, але блокуючи передачу хвороб, що захищає екосистеми краще, ніж масове хімічне розпилення.

Гість відповідає, що ці позитивні історії потребують набагато ширшого суспільного висвітлення, оскільки майбутнє вимагає кращого маркетингу, порівнюючи це порятунком життів тварин завдяки тестуванню органоїдів у Peril Bio, щоб уникнути розтину тварин. Ведучий зауважує щодо потенційного впливу на ринок нерухомості, припускаючи, що усунення комах, які кусають, різко підвищить вартість земель на заболочених територіях. Інший промовець вказує на важливість збереження бджіл живими та забезпечення птахів достатньою кількістю комах для харчування, що змушує ведучого стверджувати, що людство десятиліттями боялося власної тіні, втративши десятиліття прогресу у сфері ядерної енергетики через хибні страхи від таких фільмів, як The China Syndrome. Він проводить паралель із геоінженерією, висловлюючи надію, що суспільство нарешті долає надмірне занепокоєння своєю власною тінню. Гість погоджується, зазначаючи, що благими намірами керований алармізм може, на жаль, відштовхнути людство від таких великих досягнень, як надлишок ядерної енергії, і спростовує міфи про перенаселення, вказуючи на такі ресурси, як humanprogress.org, які показують, що ресурси стають дешевшими зі зростанням кількості населення.

Розмова торкається Німеччини, де гість зазначає прикрі тенденції до відмови від прогресу через мислення про дегроув у межах екологічного руху, який розглядає споживання енергії як за своєю суттю шкідливе. Ведучий зауважує, що люди мають сильну схильність помічати віддалену проблему майбутнього, миттєво посилювати її крізь призму мигдалеподібного тіла та не помічати десятиліття технологічного прогресу, яке станеться до того, як ця проблема взагалі настане. Він наголошує, що підприємці постійно вирішують ці виклики, створюючи набір рішень, що самопропагуються вперед і керуються капіталізмом. Гість пов'язує цю модель із думівництвом щодо AI, вказуючи на те, як критики уявляють, що нападники здобувають майже магічні можливості, водночас припускаючи, що захисники ніколи не отримують еквівалентних захисних переваг, створюючи нереалістичні сценарії про невидимі супервіруси з віддаленими вимикачами, ігноруючи при цьому відповідний потенціал для настільки ж передових і швидких контрзаходів, як от універсальні вакцини.

Tavus, тест Тюрінга та аватари ШІ

Сочер розглядає компанію Tavus, яка представила Griffin — модель, яку вона називає першою, що пройшла відео тест Тюрінга. Він зазначає, що 48 відсотків людей, які спілкувалися з AI-ватаром у прямому ефірі віч-на-віч, повірили, що розмовляють із людиною (порівняно з трьома відсотками в попередніх системах). Гість зауважує, що хоча імітація була очікуваною, справжнє питання полягає в тому, чи зможе вона виконувати корисні завдання, щоб користувачі перестали зважати на те, чи є співрозмовник людиною, натякаючи на появу цифрових колег у Zoom, Slack та текстах. Він додає, що китайські лабораторії досі надмірно інвестують у генеративні та інтерактивні відеомоделі порівняно із західними, наводячи Wan-2.1 як приклад, і прогнозує, що довгостроковою кінцевою точкою стануть повністю згенеровані інтерактивні відеомоделі в реальному часі, де користувачі зможуть створювати сцени з людьми. Він ставить під сумнів дохідність таких моделей на основі оплати за токен у задачах генерації коду, проте припускає, що якщо створення довільних людей для зустрічей стане абсурдно дешевим, межі оптимального співвідношення ціни та продуктивності втратять своє значення. Він зазначає, що багато професій у сфері послуг, які вимагають обличчя, голосу та інтерактивності, можуть бути повністю автоматизовані, хоча й попереджає, що на таких платформах, як Zoom та Google Hangout, знадобляться заходи безпеки для запобігання складним шахрайствам, де штучний інтелект видає себе за керівників для авторизації грошових переказів. Сочер відкидає ідею про те, що проходження цього відео тесту Тюрінга є повноцінною науковою віхою для автоматизованої верифікації, пояснюючи, що масштабування залишається складним, поки людина має залишатися в процесі для підтвердження особи. Відповідаючи на пропозиції щодо збереження членів родини у вигляді аватарів, Сочер та інші спікери обговорюють запис детальних відео- та аудіоісторій батьків і бабусь із дідусями, жартуючи при цьому про кріоконсервацію та збереження клієтин плаценти задля клонування дітей або створення симуляцій предків. Переходячи до бенчмарків, Сочер припускає, że тест Тюрінга змінив свій напрямок на протилежний, стверджуючи, що штучний інтелект тепер мусить штучно обмежувати себе до людського рівня, аби пройти його, тоді як доведення нелюдського інтелекту насправді вимагає постановки запитань, занадто складних для будь-якої людини, таких як миттєва генерація величезних масивів складного коду або вирішення складних хімічних, біологічних, радіологічних чи ядерних завдань.

Рекурсивне самовдосконалення та шлях до ASI

Сочер пояснює, що слабкі форми рекурсивного самовдосконалення вже тут, оскільки ШІ тепер може писати код, дозволяючи людям замикати цикл зміни програмного забезпечення, хоча інженери все ще залишаються сильно залученими. У його компанії Recursive мета полягає в тому, щоб обмежити участь людини налаштуванням винагород, середовищ і цілей, залишаючи весь процес генерування ідей, реалізації та перевірки штучному інтелекту разом із алгоритмами відкритого еволюційного пошуку. Хоча фізична реальність вимагає величезних обчислювальних потужностей для навчання складних версій самовдосконалюваної моделі, Сочер очікує, що цей підхід набуде популярності наступного року. Згадуючи фреймворк свого колеги Jason Weston у Meta, він зазначає, що самовдосконалення охоплює кілька осей, таких як параметри, тренувальні дані, цільові функції, нейронна архітектура та код, і зауважує, що жодна компанія ще не розв'язала завдання автоматичної оптимізації всіх із них, тому провідні лабораторії досі наймають тисячі інженерів.

Визначаючи штучний суперінтелект, Сочер стверджує, що він повинен перевершувати людські можливості в кількох різних просторах інтелекту, а не просто проходити стандартний тест Тюрінга для довільних завдань. Він стверджує, що справді суперінтелектуальна система також повинна мати певний ступінь метапізнання та здатність обирати, над чим працювати, а не просто роботоподібно слідувати інструкціям. Відповідаючи на запитання про часові рамки, він оцінює, що досягнення системи, яка перевершує сукупний інтелект усього людства в десятьох різних просторах — зокрема перцептивному, комунікаційному, соціологічному та математичному міркуванні — займе кілька десятиліть. Хоча Elon Musk прогнозує суперінтелект до 2029 або 2030 року, Сочер розглядає ці оцінки як такі, що стосуються вужчих проривів, як-от моделей, що перевершують людство в програмуванні, математиці або конкретних іграх на кшталт шахів і Го.

Говорячи про фізичні обмеження суперінтелекту, Сочер зазначає, що надання ШІ контролю над власним апаратним забезпеченням та обчислювальною підкладкою вимагає абсолютно нових ланцюжків постачання, матеріалів і виробничого обладнання, такого як передові машини для напівпровідникової літографії, які неможливо побудувати за одну ніч. Інший учасник заперечує, що підключення моделей до фізичного світу та маніпуляторів уже відбувається стрімко, стверджуючи, що маніпуляція фізичним середовищем не є серйозною перешкодою, і відкидає багаторічний графік. Відповідаючи на запитання про кінцеву архітектурну точку рекурсивного самовдосконалення, Сочер припускає, що передбачати точну форму остаточної моделі наразі є гординею. Він наполягає, однак, що кінцевий стан міститиме інтелект, здатний до інновацій у будь-якому обраному вимірі, вказуючи на віртуальні симулятори клітин та передові біологічні методи, які з часом вилікують хвороби, хоча реальні регуляторні перешкоди на кшталт випробувань FDA все одно диктуватимуть швидкість офіційного затвердження цих лікування.

Розмова коротко переходить до нещодавнього прогресу в прискоренні навчання невеликих моделей на кшталт Nano GPT, зазначаючи, що алгоритмічні вдосконалення скорочують час навчання без необхідності масштабування нових даних. Повертаючись до архітектури остаточної моделі, дискусія переключається на те, чи слід чисто відокремлювати знання про світ у зовнішні бази даних, залишаючи у вагах моделі лише ядро чистих міркувань. Сочер виступає проти повного поділу, пояснюючи, що подібно до того, як люди покладаються на заучувані концепції для творчого мислення, штучному інтелекту також потрібні знання про світ, безпосередньо вбудовані у його ваги, щоб ефективно міркувати над цими концепціями, навіть попри те, що він продовжує використовувати зовнішні пошукові системи та інструменти пошуку інформації.

Вашингтон намагається заборонити рекурсивний ШІ

Сочер звертається до нового законопроєкту від конгресмена Ro Khanna під назвою Human Control Over AI Act, мета якого — заборонити рекурсивне самовдосконалення та вимагати незалежних аудиторів від уряду, впроваджених у передові лабораторії, зазначаючи, що опитування показує підтримку таких заходів 68 відсотками виборців. Реагуючи на ці побоювання, Сочер відкидає можливість знищення людства штучним інтелектом, пояснюючи, що навіть під час обговорення реалістичних найгірших сценаріїв на кшталт біологічної зброї чи шкідливих психологічних маніпуляцій рішення передбачають покращення кібербезпеки, дотримання чинних регламентів проти небезпечних вірусних досліджень та просування інтернет-грамотності, а не зупинку технологічного прогресу. Він стверджує, що спроба забезпечити дотримання заборони на рекурсивне самовдосконалення вимагатиме тоталітарної держави нагляду та поліції думок, яка контролює приватні ноутбуки, через що механізм примусу стане значно небезпечнішим за саму технологію. Інший учасник порівнює ситуацію з історичним експортним контролем теорії чисел у 1990-х роках, тоді як інший застерігає, що корпоративна відповідальність і нещадні колективні судові позови становлять набагато більшу загрозу для американських інновацій, ніж урядові арешти. Сочер проводить паралелі з історичними моральними паніками, задокументованими в Pessimists Archive, зазначаючи, що такі фігури, як Папа Олександр VI, критикували друкарський верстат Гутенберга, а минулі коментатори стверджували, що телеграф і комп'ютерні ігри знищать суспільство. Переходячи до конституційного підходу Anthropic, Сочер критикує його як маркетинговий трюк, який зазнав невдачі на практиці, вказуючи на те, що моделі, створені на основі суворих правил проти створення кіберзброї чи шкідливого коду, згодом використовувалися для зламу інших систем, хоча він зазначає, що інжиніринг винагород і вирівнювання покращуватимуться, оскільки компанії стикаються з реалом відповідальності. Він залишається оптимістом щодо того, що майбутні покоління систем штучного інтелекту виведуть надійні етичні принципи з першопринципів, вказуючи на такі компанії, як Hypocratic AI, які успішно вирішують проблеми вирівнювання та безпеки в охороні здоров'я, оскільки несуть юридичну відповідальність за свої результати.

Gemini 4 Argon і гонка фронтирних моделей

Розмова переходить до виходу Gemini 4 Argon, повернення Google після внутрішніх затримок, які завадили випуску їхньої запланованої Gemini 3.5 Pro. Гість зазначає, що хоча цей реліз не виводить Google на передову за можливостями чи співвідношенням ціни й продуктивності, він успішно повертає їх до трійки найкращих лабораторій позаду Anthropic та OpenAI. Модель створена для тривалих міркувань на довгострокову перспективу в галузях розробки програмного забезпечення, фінансів, юридичної роботи та кібербезпеки, причому ліміти виводу збільшено з 64,000 до одного мільйона токенів. Однак бенчмарки, виділені Google, здаються дещо вибірковими, і система не створює оптимальної опуклої оболонки на межі ціни та продуктивності.

Гість пояснює труднощі Google частково дефіцитом внутрішніх ресурсів та поточними внутрішніми змаганнями за обчислювальну потужність між Google Cloud Platform, командами пошуку та реклами й Google DeepMind. Попри ці обмеження, Gemini 4 Argon значно перевершує в мінімізації галюцинацій, що, як припускає гість, зумовлено економічним тиском забезпечення результатів пошуку Google та уникнення диких помилок у відповідях для споживачів. В обговоренні зазначається, що хоча мінімізація галюцинацій є цінною для пошуку та надійності, надмірне скорочення може перешкоджати креативності в таких сферах, як відкриття ліків та дизайн білків, де потрібна генеративна уява. Зрештою, гість стверджує, що бізнес-модель Google не потребує штучного суперінтелекту, оскільки повсякденні запити користувачів вимагають практичної корисності, а не глибоких математичних проривів.

Sonnet 5.5 досягає 70% на Terminal Bench

Розмова переходить до моделі Sonnet 5.5 від Anthropic, яка здійснила стрибок з десяти до сімдесяти відсотків на Terminal Bench 4.0 — бенчмарку, що вимірює, наскільки добре штучний інтелект виконує реальну роботу в командному рядку. Попри те, що на цьому конкретному бенчмарку модель перевершила найкращу модель Anthropic, Opus 5.5, за вдвічі меншу ціну та з новими заходами кібербезпеки, гість вважає цей реліз незвичним. Аналіз співвідношення ціни та продуктивності показує, що Sonnet 5.5 працює гірше за Opus 5.5 в розрахунку на одну спробу, через що незрозуміло, чому користувачі обиратимуть Sonnet замість Opus, якщо тільки їх не обмежують певні ліміти токенів чи затримки.

Інший учасник припускає, що підприємства впроваджують стратегії оркестрації, де топмодель на кшталт Opus 5.5 діє як оркестратор, тоді як дешевші субмоделі виконують конкретні завдання для зниження витрат. Гість стверджує, що Anthropic може агресивно встановлювати ціни на Sonnet, щоб конкурувати з китайськими моделями, які відстають приблизно на три місяці, і завадити підприємствам повністю перейти на альтернативи з відкритим кодом. Тим часом зовнішні голоси на кшталт Alex Karp закликають до самозабезпечення, щоб уникнути залежності від постачальника. Розмова завершується зауваженням, що через все коротший період напіврозпаду передових моделей конкурентна перевага залежить менше від доступу до найновішої моделі й більше від того, як швидко організація здатна перетворити її на практичні можливості.

Дефіцит обчислень та дешеввіший інтелект

Гість зазначає, що обчислювальні потужності залишаються серйозним обмеженням попри падіння вартості токенів, вказуючи на те, що придбання висококласного обладнання на кшталт кластерів GB200 насправді стало дорожчим і складнішим через запеклу конкуренцію та високий попит. Він ділиться тим, що ціни на старіші GPU на кшталт H100 зросли за останні кілька місяців, попри те, що фінансові моделі зазвичай швидко їх амортизують, створюючи тимчасовий дефіцит обчислювальних потужностей. Хоча він очікує, що високий попит на інтелект з часом буде задоволений новими дата-центрами та ринковою пропозицією протягом двох років, він попереджає, що ціни продовжуватимуть коливатися, а не просто знижуватимуться.

Переходячи до моделей прийняття рішень, дискусія звертається до того, як програмне забезпечення обробляє швидкі завдання на кшталт виявлення шахрайства чи категоризації без потреби в повільних, дорогих моделях міркування. Стартап під назвою Typesafe нещодавно запустив закриту систему, одну модель під назвою Jev, яка позиціонується для швидких, інтуїтивних рішень, а не для довготривалого обдумування. Гість пояснює, що хоча стандартні декодери-трансформери наразі домінують у ландшафті штучного інтелекту, моделі-енкодери та структуровані вихідні дані історично недооцінювалися розробниками.

Jev працює інакше, обмежуючи свій вивід конкретними категоріальними, числовими або бінарними варіантами замість генерації відкритих текстових послідовностей, функціонуючи подібно до традиційного класифікатора. Така архітектура забезпечує надзвичайно низьку затримку відповідей, придатну для допомоги у використанні комп'ютера та великомасштабної категоризації баз даних. Після цього анонсу OpenAI швидко інтегрувала подібні можливості у власні інструменти для розробників, а альтернативи з відкритим кодом почали з'являтися, щоб заповнити цю ж нішу.

Інший учасник додає, що організації покладаються на тисячі мікрорішень щодня, як-от затвердження винятків чи маршрутизація тікетів, що робить неефективним розгортання важких мовних моделей для рутинних завдань. Спрямовуючи ці швидкі вибори до низьковитратних систем класифікації, компанії можуть залишити моделі глибокого міркування для складних стратегічних питань, значно знижуючи вартість мікрокоординації. Гість погоджується, що класифікатори ефективно повернули собі провідні позиції завдяки такому підходу, демонструючи, що програмне забезпечення не завжди потребує складних декодерів для простих завдань.

Проєкт Meridian, Ілон та майбутнє ведення війн

Розмова переходить до нещодавньої заяви міністра оборони Pete Segwit у Quantico щодо Project Meridian, нової ініціативи Пентагону, присвяченої війнам майбутнього, яку спільно очолюють Elon Musk та Palmer Luckey разом із Newt Gingrich під наглядом CTO Emil Michael. Мета проєкту — розробити й впровадити системи для майбутніх військ від Землі до простору за Місяцем, а результати мають бути готові за 120 днів. Зазначивши, що SpaceX та Anduril мають великі оборонні контракти, гість повторює свою позицію: штучний інтелект ніколи не повинен контролювати рішення про вбивство чи ядерні коди без нагляду людини, оскільки автономна війна становить серйозні ризики.

Інший учасник наголошує на складності модернізації вічної структури закупівлі, щоб вона відповідала технологічному циклу у 90 днів, і зазначає, що лінійні закупівлі не встигають за експоненційними технологіями. Ведучий висловлює оптимізм щодо здібних, розумних лідерів, які взаємодіють із Вашингтоном, хоча й визнає свої застереження щодо автономної зброї попри раціональні аргументи Palmer Luckey на її користь. Він наводить статистику щодо дронів у російсько-українському конфлікті, де виробництво зросло до 10 мільйонів дронів на рік з кожного боку, а також ділиться спостереженнями про трафік дронів, які перетинають мексикансько-американський кордон.

Обговорення завершується міркуваннями про створення першого командування автономної війни Міністерства війни під назвою Auto Warcom, яке формує спеціальні об'єднані сили для систем автономної зброї. Project Meridian чітко орієнтується на недообслуговувані сфери — від підземель до цислунарного кордону. Очікується, що дослідження океанічного дна та місячного простору принесе ширші технологічні дивіденди для всієї економіки. Підводні операції природно потребують автономії, оскільки зв'язок із центральними серверами неможливий, а це означає, що системи повинні діяти самостійно після розгортання.

AMA: ШІ, робота, продуктивність та економіка уваги

Ми знаємо про поверхню Марса більше, ніж про дно наших океанів. Відкриваючи сессию AMA, ведучий пропонує Сочер обрати перше запитання від глядача, у якому запитують, куди діватиметься цінність, якщо ШІ зробить компанії у 10 разів продуктивнішими без десятикратного збільшення випуску продукції. Сочер пояснює, що вплив на робочі місця залежить від еластичності попиту при різкому падінні цін, порівнюючи крах попиту на ілюстраторів із масовим розширенням персоналізованого програмного забезпечення, зумовленим парадоксом Джевонса. Він вважає, що хвиля ШІ або сприятиме підприємництву, або посилить нерівність, залежно від володіння акціями. Далі Salem обирає запитання про те, що залишиться для випускника коледжу у 2030 році з огляду на автоматизований код, дослідження та маркетинг. Він припускає, що фокус зміщується від виконання завдань до володіння результатами та визначення обмежень, що вимагає абсолютно нової моделі стажування, оскільки традиційна чорнова робота зникає. Він радить зосередитися на меті, а не просто на пристрасті, і використовувати ШІ як робочу силу. Потім Dave обирає запитання про те, як дата-центри можуть збагачувати місцеві громади, а не лише їхніх власників. Розповідаючи про свою екскурсію дата-центром Markley у Lowell, він зазначає, як величезні податкові надходження, пожертви та створення робочих місць радикально перевершують бюджети маленьких міст, прогнозуючи, що оператори все частіше пропонуватимуть настільки вагомі переваги для громад, що містечка активно конкуруватимуть за право розмістити їх у себе. Alex відповідає на запитання, чи консолідує ШІ владу так само, як попередні технологічні платформи. Він стверджує, що хоча платформні інновації з часом природно надають перевагу більшим гравцям через економію на масштабі, він відкидає передумову про те, що гіпермасштабування є за своєю суттю закритим або антидемократичним, хоча пильність антимонопольних органів залишається важливою.

Повертаючись до запитань, Сочер звертається до теми того, чи зазнадуть краху економіка уваги та економіка на основі реклами, якщо ШІ-агенти перевершать за чисельністю людей в інтернеті. Він зазначає, що агенти вже перевершують людей за кількістю, і згадує ранні розбіжності щодо автономії покупок на таких платформах, як Amazon. Він стверджує, що в суспільстві достатку людська увага і слава не можуть масштабуватися експоненційно, через що економіка уваги зростає ще більше в міру задоволення матеріальних потреб. Salem бере запитання про долю страхової галузі на вулицях із вдесятеро меншою кількістю машин. Він визнає існування різних типів судових позовів і пояснює, що ризики просто зміщуються, а не зникають повністю, переходячи від відповідальності водія до кіберризиків та відповідальності виробників на нових ринках, таких як гуманоїдні роботи та дрони. Dave обирає запитання про найнижчу можливу роботу в цивілізації ШІ. Після обговорення робіт із фізичного монтажу, Alex висловлює парадоксальний погляд на те, що до-ШІ творчі роботи високої цінності можуть парадоксально вимагати найменшої обчислювальної потужності й стати завданнями з найнижчою економічною цінністю. Сочер припускає, що роботами з низьким статусом будуть ті, які не сприяють розвитку людства, тоді як слава та розваги збережуть свою цінність. Ведучий жартує, що машиністи поїздів із профспілками залишаться останними. На завершення Alex відповідає на запитання, чи залишається першопричина невирішеною, якщо лікувати хвороби, спричинені поганою поведінкою. Він заперечує, що нові класи ліків, такі як GLP-1s, вже пом'якшують адиктивну поведінку та безпосередньо лікують першопричини, що спонукає Сочер висловити оптимізм щодо того, що ШІ незабаром допоможе людям почуватися добре щодо здорового вибору.

Заключні думки та Машина Еврики

Ведучий запрошує спільноту надсилати музичні відео для аутро шоу, після чого лунає пісня під назвою Abundance авторства Steven Gross у супроводі жартівливих реплік. Ведучий рекламує нову книгу гостя The Eureka Machine, зазначаючи, що аудіоверсія з'явиться незабаром. Ведучий хвалить роботу гостя з Recursive як чудову можливість просунути людство вперед і закликає його не виділяти окрему передову лабораторію просто заради фінансово-інженерних вправ задля акціонерного капіталу. Учасники завершують розмову взаємними прощаннями.

Згадується

Люди

Alex Weer Gross Dave Blendon Salem Ismael Mark Benioff Demis Hassabis Elon Musk Palmer Luckey Ray Kurzweil Ro Khanna Ilya Sutskiver

Companies

Recursive Anthropic Google OpenAI Amazon Meta Salesforce SpaceX Nvidia AMD Tavus Neuralink Fountain Life