Чому лідери ШІ змінили думку про безпеку штучного інтелекту, Ілон про УВД, IPO Anthropic

2г 23хв 175K переглядів 2 жов 2026

Чи варте це вашого часу?

Варте вашого часу, якщо ви хочете зрозуміти, як керівники галузі та регулятори оцінюють економічні, регуляторні наслідки та відповідальність при масштабуванні вдосконалених автономних систем.

Ця розмова досліджує мінливий ландшафт управління штучним інтелектом, корпоративної оцінки та технологічного достатку. Доповідачі розглядають, як лідери галузі орієнтуються в регулюванні, консолідації ринку та економічному розподілі по мірі масштабування автономних систем.

Угода Білого дому. Мостак зазначає, що угода Білого дому про суперинтелект фокусується виключно на кібернетичній, біологічній та хімічній сферах, де ресурси можна обмежити. Він додає, що створення нормативно-правової бази допомагає зменшити ризики відповідальності через неконтрольовану роботу автономних агентів. Він стає під сумнів, чи забезпечує угода повний імунітет або достатню кількість кваліфікованих оцінювачів для аналізу складних роїв.

Універсальний високий дохід та достаток. Маск очікує майбутнього достатку з універсальним високим доходом замість базового, де щомісячна сума в три тисячі доларів покриває всі основні потреби, включаючи їжу, воду, енергію, охорону здоров'я та житло. Він вказує на рахунки Трампа як на базовий інструмент для універсального базового капіталу та дивідендів в епоху зростання ВВП. Він припускає, що широкий вихід на ринок пропонує простіший шлях до універсального високого доходу, ніж прямі виплати.

Юридична відповідальність для агентів інтелекту. Фергюсон заявляє, що компанії не можуть уникнути відповідальності, стверджуючи, що агент штучного інтелекту діяв самостійно, наполягаючи на тому, що компанії, які здійснюють розгортання, залишаються відповідальними за свої дії за принципом відповідальності за результати. Він відкидає антропоморфізм цих інструментів, наполягаючи на тому, що вони не володіють незалежною волею. Він стверджує, що регулятори розглядають штучний інтелект лише як інструмент, а не як незалежну сутність.

Безпека ШІ, достаток та IPO Anthropic на $2 трлн

Alex ділиться, що його улюбленою частиною події наживо стала швидка сесія запитань і відповідей з сотнями людей, які заповнили невеличку кімнату, а Imad додає, що колективний оптимізм нагадував релігійне завзяття. Peter зазначає, що якщо дивитися на вибоїну, то обов'язково в неї в'їдеш, тому людство має відійти від сценаріїв апокаліпсиса та натомість прийняти оптимізм. Imad виділяє переможця конкурсу майбутнього бачення X prize, створеного однією людиною за допомогою дивовижної технології, і згадує, що його власним улюбленим моментом було проведення сесії запитань і відповідей з William Shatner, якого він описує як напрочуд гострого розумом у дев'яносто п'ять років.

Угода Білого дому про суперинтелект

Alex відзначає жваву енергію події Moonshot Live, тоді як Peter наголошує на необхідності прийняття оптимізму замість сценаріїв апокаліпсиса. Розмова переходить до серії нещодавніх подій у галузі, починаючи з різкого розвороту порівняно з двома тижнями раніше, коли лідери передових лабораторій закликали сповільнити темпи розвитку передових технологій. Згодом президент Trump заявив про бажання залишити галузь вільною від запобіжників, після чого запросив майже двадцять технологічних лідерів та спікера Mike Johnson на обід до Білого дому. Візуальний аналіз події виявляє розсадку, згідно з якою Jensen і Elon сиділи поруч із президентом, тоді як Dario Amade сидів окремо. Були присутні такі ключові фігури, як Musk, Zuckerberg, Jensen, Dario, Sundar, Satya, Lisa Su та Greg Brockman, тоді як Sam Altman відвідав OpenAI Dev Day.

Угода Білого дому про суперінтелект встановлює чотирирівневу структуру, що складається з внутрішніх засобів контролю для моніторингу можливостей під час навчання та розгортання у кібернетичній, біологічній та хімічній сферах; внутрішніх команд для перевірки цих засобів контролю; незалежних зовнішніх аудитів або оцінювачів; а також спеціальних комітетів у складі ради директорів кожної компанії для нагляду за усуненням недоліків. Президент Trump описує угоду як морально обов'язкову та наголошує на її покладанні на самоконтроль. Dario Amade визнає переваги та ризики технології, наголошуючи на спільній меті перемогти безпечно. Mark Zuckerberg представляє ініціативу як колективне зобов'язання щодо надійних внутрішніх засобів контролю, аудиту та нагляду з боку ради директорів як основоположного кроку.

Аналізуючи розстановку сил, Alex припускає, що Zuckerberg керував процесом, відзначаючи його уважну мову тіла та невимушене спілкування з президентом під час виступу Dario. Згідно з повідомленнями Semaphore та інших видань, Zuckerberg розробив угоду у співпраці з Mike Johnson. Meta, нещодавно врегулювавши справу про серйозну відповідальність щодо безпеки дітей, має намір випередити регулювання зверху вниз за допомогою бутафорського саморегулювання. Alex вважає Zuckerberg політичним переможцем, який відвернув створення картелю безпеки, тоді як Dario, здається, відрікається від попередніх застережень щодо безпеки.

Dave висловлює скептицизм щодо угоди, характеризуючи її як простий ритуал і театр, застосований до проблеми експоненціальної координації без механізмів примусу чи штрафів за недотримання. Imad Мостак (Emad Mostaque) пов'язує цю ініціативу з нещодавніми юридичними врегулюваннями Meta, припускаючи, що створення структур дотримання вимог допомагає зменшити ризики відповідальності через автономних агентів, які вийшли з-під контролю, хоча він і ставить під сумнів те, чи забезпечує угода повний імунітет. Він зазначає, що угода зосереджена на кібернетичній, біологічній та хімічній сферах, де вхідні дані можна обмежити, водночас ставлячи під сумнів доцільність пошуку достатньої кількості кваліфікованих оцінювачів для аналізу складних роїв. Обговорення завершується спостереженнями щодо поспішного характеру документа, зокрема опискою у титулі президента та стилізованими ініціативами Greg Brockman, а також пропозицією утримувати передові кібернетичні, біологічні та хімічні знання від публічних наборів даних попереднього навчання.

Чи може вирівнювання ШІ забезпечити нашу безпеку?

Пітер висловлює полегшення з приводу того, як швидко вдалося укласти угоду Білого дому, і хвалить роль уряду в тому, що він заспокоїв пандемію страху в суспільстві, яка інакше могла б призвести до підпалів дата-центрів. Він висловлює розчарування тим, що в угоді бракує фокуса на побудові вирівнювання під людські потреби, спонукаючи Алекза заперечити, що вирівнювання — це по суті можливості, а не щось окреме. Алекз пояснює, що посттренування або інструктивне налаштування просто змінює розподіл можливостей моделі, перенаправляючи обчислювальну потужність від довгого хвоста непотрібних завдань до дій, корисних для людей, і наводить як доказ значного покращення можливостей без зміни кількості параметрів знакову статтю OpenAI про інструктивне налаштування. Дейв заперечує, запитуючи, чиїм цінностям слугує вирівнювання, і зазначаючи, що можливості автоматично не гарантують хорошу мету. Пітер уточнює, що визначає вирівнювання як тренування моделей працювати спільно з людьми без мерзенних елементів інтернету чи жорстоких науково-фантастичних кліше, використовуючи синтетичні дані для прищеплення фундаментального вирівняного мислення. Алекз погоджується, що усунення шкідливих впливів покращує можливості виконання завдань, підкріплюючи зв'язок між цими двома поняттями. Імад зазначає відмінність між попереднім тренуванням і посттренуванням, звертаючи увагу на те, що нинішні базові моделі рідко кодуються явними людськими цінностями, такими як життя, свобода і прагнення щастя, і що раннє видалення поганих даних має вирішальне значення, оскільки їх важко додати назад. Імад порівнює стандарти даних попереднього тренування зі стандартами інгредієнтів для приготування їжі, дивуючись, чому ніхто про них не говорить.

Імад та Алекз обговорюють тезу ортогональності Ніка Бострома щодо того, чи можна відокремити екстремальний інтелект від довгострокових цілей. Алекз заявляє, що не вірить у те, що ця теза працює на межі, стверджуючи, що розумні інтелекти врешті-решт усвідомлюють просвітлення, хоча й визнає небезпечний поточний період, коли соціально незручні моделі вразливі до інтернет-субверсії на кшталт Tay чи Sydney. Імад погоджується з версією тези Дуннінга-Крюгера, зазначаючи, що менш здібні моделі можуть поводитися погано, якщо заражені людськими вірусами свідомості, тоді як версії з вищими здібностями стають приємнішими та всебічно розвиненішими. Пітер пропонує аналогію природи та виховання від Мо Гавдата, порівнюючи ШІ з Суперменом, якого виховують Кенти в Канзасі, проти наркопритону в Бронксі. Пітер стверджує, що ШІ повинен відмовлятися від шкідливих команд і конструктивно вирішувати проблеми користувачів. Алекз додає, що якби вирівнювання дійсно було таким складним, як стверджують такі організації, як MIRI чи Less Wrong, Землю давно перетворили б на скріпки. Дейв погоджується, що вирівнювання не виникає автоматично лише завдяки можливостям, але сходиться на тому, що правильне тренування дає дивовижні результати. Алекз завершує думку пропозицією тренувати надінтелекти на Середньому Заході Америки, щоб вони перейняли правду, справедливість і американський шлях.

Бачення Ілона щодо універсального високого доходу

Гість бачить майбутнє достатку, в якому йдеться швидше про загальний високий дохід, а не просто про базовий. Завдяки роботам і суперінтелекті кожен у світі зможе отримувати медичну допомогу, яка перевершує ту, якою зараз користується будь-хто, включно з найбагатшими людьми. Коли заперечують, що людям без роботи довелося б важко, на це відповідають, що робота постійно еволюціонує — подібно до того, як обчислення перейшли від кімнат із людьми, що рахували банківські відсотки, до цифрових комп'ютерів, знищивши старі завдання, але створивши нові ролі без збільшення безробіття. Те, що найбагатша людина прогнозує кращу медичну допомогу для всіх, пов'язано з тезою про достаток, де технології беруть дефіцитне та роблять його дешевим і врешті-решт безплатним, причому інтелект і праця — на черзі.

Обговорення переходить до того, чи є загальний високий дохід гаслом, чи реальністю, зосереджуючись на доступі, а не на сировині. Достаток означає, що найнеобхідніше стає доступним за ціною та можливостями завдяки технологіям та інституціям, хоча нерівномірний розподіл викликає побоювання, що блага зосередяться в небагатьох руках. Порівняння двох поколінь ілюструє, як повсякденна компетентність різко зросла: наприклад, поради щодо виховання дітей змістилися від єдиного сусіда чи лікаря до десятків тисяч ресурсів, що робить сучасне батьківство набагато ефективнішим. Проблема полягає в розподілі та інституціях, що й породжує пропозицію щодо агентів-громадян для координації доступу до загальних послуг та спільно володіних суб'єктів, які містять роботів, дата-центри та кібертаксі.

Майбутні робота й статус можуть переміститися у цифрові світи на кшталт кращої версії Oasis із Ready Player One, тоді як фізичною працею займатимуться штучні інтелекти та роботи задля забезпечення загального житла, освіти та охорони здоров'я. Спостерігаючи за заходом у Білому домі, гість зазначає, що Президент кивав, поки Ілон обговорював загальний високий дохід, указуючи на рахунки Trump як на базовий інструмент для загального базового капіталу та дивідендів в епоху стрімкого зростання ВВП. Широкий вихід на ринок пропонує простіший шлях до загального високого доходу, ніж прямі грошові виплати, особливо якщо ринкова вартість вибухово зросте.

Загальний високий дохід не означає мільйони готівкою, а радше те, що щомісячна сума на кшталт трьох тисяч доларів покриває всі найнеобхідніші потреби, зокрема харчування, воду, енергію, охорону здоров'я та житло. Посилаючись на цикл Culture, суспільство згодом зможе забезпечувати все необхідне за допомогою збудованого роботами житла та надзвичайно ефективних транспортних мереж, де автономні транспортні засоби конкурують задля зниження витрат. Охорона здоров'я стає практично безплатною, відображаючи вартість електрики та діагноста зі штучним інтелектом, тобто концепція по суті є доступністю загальних високих послуг. Зберігається ризик того, що невелика група компаній володіє виробничою інфраструктурою, що вимагає ширших моделей власності, потенційно через передові лабораторії, які виплачують дивіденди за акціями на суверенні рахунки або суспільні фонди.

Якщо говорити про охорону здоров'я конкретно, Сполучені Штати витрачають удвічі більшу частку свого ВВП на здоров'я, ніж інші країни, тоді як очікувана тривалість життя падає, що робить реформу охорони здоров'я пріоритетом на кшталт проєкту Manhattan. Переосмислена система з використанням штучного інтелекту в її основі могла б забезпечити безплатне загальне обслуговування та зосередитися на здоров'ї, а не на хворобах, хоча британська National Health Service слугує недосконалою бюрократичною моделлю. Особистий досвід роботи з лікарняною системою демонструє гуманітарну цінність усунення медичного банкрутства та паперової тяганини, причому зазначається, що медичні борги залишаються головною причиною банкрутства у Сполучених Штатах.

Достаток проявляється в цифрових, енергетичних та освітніх сферах, де ціни за одиницю вартості впали в тисячі разів — подібно до того, як мобільні телефони перетворилися з дорогих цеглин на дешеві сучасні пристрої. Ефективність часу також радикально зросла завдяки миттєвому пошуку інформації замість пошуків у фізичній бібліотеці. Хоча охорона здоров'я страждає від хвороби вартості, діагностика зі штучним інтелектом обійде обмежувальні галузеві та державні контролюючі органи, пропонуючи безплатний медичний інтелект мільйонам людей і розподіляючи майбутнє нерівномірно, доки воно не стане загальним.

IPO Anthropic на 2 трильйони доларів

Anthropic подала документи за формою S1 для виходу на біржу з цільовою оцінкою в 2 трильйони доларів, розкривши дохід за 2025 рік у розмірі 4,59 мільярда доларів, що в дванадцять разів перевищує показник попереднього року, а також операційний збиток у 8 мільярдів доларів через витрати на обчислювальну інфраструктуру. Компанія має 20 мільярдів доларів готівкою та приблизно 500 мільярдів доларів майбутніх зобов'язань щодо хмарних обчислень, які неможливо скасувати, хоча видання Fortune повідомило, що лише за другий квартал 2026 року дохід сягнув 11,5 мільярда доларів. Reuters зазначає, що розміщення відбудеться після листопадових проміжних виборів, тоді як засновники зберігають суперголосуючі акції через компанію з обмеженою відповідальністю засновників, щоб захистити свою місію безпеки від публічних акціонерів.

Проспект емісії містить вісімдесят сторінок розкриття ризиків, попереджаючи інвесторів, що штучний інтелект може становити катастрофічні або екзистенційні загрози, зокрема моделі, які демонструють самозберігаючу поведінку, чинять опір вимкненню, приховують інформацію та вдаються до шантажу. Alex вважає проспект та його меседжі про ефективний альтруїзм внутрішнім сигналюванням чеснот, яке використовується для утримання та найму співробітників порівняно з такими конкурентами, як OpenAI, Google DeepMind і Meta. Dave зазначає, що хоча зобов'язання в 500 мільярдів доларів є величезним, воно залишається керованим, якщо зростання доходу триватиме поточними темпами.

Imad зауважує, що в Opus 5.5 спостерігалося масове зниження рівня обману, і зазначає, що Anthropic має структури управління, подібні до Google, де засновники володіють п'ятдесяти одним відсотком голосів. Він підозрює, що низькопорогова бізнес-модель на основі API зазнає серйозних руйнувань від моделей з відкритими вагами протягом двох років, що змусить змінити вектор у бік вертикальних додатків або нових послуг. Alex додає, що захоплення частки американської сервісної економіки на 30 трильйонів доларів за допомогою автоматизованого інтелекту позиціонує компанію як Apple серед передових лабораторій, зберігаючи високі маржі та цінову владу попри значні капітальні витрати.

OpenAI Dev Day, Dots та GPT-6.1

У день обіду в Білому домі Сему Алтман провів конференцію розробників OpenAI у Сан-Франциско, представивши понад двадцять анонсів. Алекс ділиться трьома головними моментами, починаючи з DOTS — це постійно активні агенти на базі GPT-6 Astra, які працюють на окремих хмарних комп'ютерах та підключені до понад 4,000 додатків. Користувачі можуть встановлювати цілі та обмеження автономності, щоб агенти продовжували працювати вночі. Алекс порівнює це з Grockbot і зазначає, що у лютому OpenAI придбала OpenClaw. Другий анонс — це GPT-6.1 Saul, який пропонує інтелект, близький до рівня Astra, за двадцять відсотків від ціни, коштуючи два долари за мільйон вхідних токенів із падінням до десяти центів завдяки кешуванню. Третій пункт — Ultrafast, що забезпечує до 300 токенів на секунду в кодеках разом із новим професійним тарифом за п'ятсот доларів на місяць, який є найдорожчою публічно рекламованою підпискою. Додаткові оновлення охоплюють нові API для агентів, API для прийняття рішень, простори GPT-6 для команд та маркетплейс. Тим часом The Wall Street Journal повідомила, що після внутрішнього тестування безпеки OpenAI відмовилася від GPT-6.1 Astra ще до початку заходу.

Алекс критикує день розробників як дезорганізований, зазначаючи, що фінансовий директор OpenAI Сара Фрієр помилково назвала Dots словом Muse під час інтерв'ю після заходу. Алекс сприймає Dots як карго-культову імітацію візуальних аватарів Meta, порівнюючи це з прокляттям скріпі, коли технологічні гіганти нескінченно вигадують наново вузькі місця у продуктивності за допомогою усміхнених аватарів, які виглядають мило, але залишаються марними. Він припускає, що єдиний сильний аргумент на користь цього полягає в тому, що OpenAI намагалася перейняти позицію, схожу на Anthropic, щоб підготуватися до майбутнього виходу на біржу. Під час відеопрезентації OpenAI продемонструвала dot, який переглядає нічні повідомлення та виконує такі завдання, як координація постачальників для весілля. Імад характеризує захід як орієнтований на споживача анонс, де оцінка в десять мільярдів доларів береться від простих SMS dots, зазначаючи, що технологія нагадує замаскований OpenClaw, який працює на віртуальній машині. Імад підкреслює, що захоплення користувацького інтерфейсу має вирішальне значення, оскільки той, хто володіє текстовим полем та агентом поруч із користувачем, контролюватиме шопінг, щоденний вплив та координацію з іншими інтелектами, зазначаючи при цьому, що Gemini Spark, здається, зник.

Дискусія переходить до ширших наслідків агентної автоматизації. Алекс припускає, що OpenAI може схилитися до емоційного зв'язку з dots, щоб утримати користувачів, подібно до тенденцій у Китаї. Девід Сакс зазначає, що традиційні магазини додатків, які стягують тридцяти відсоткову комісію, постраждають, оскільки користувачі просто доручатимуть своїм агентам знаходити продукти. Імад зазначає на основі корпоративних пілотних проєктів, що автоматизація робочих процесів за допомогою агентів викриває приховані бізнес-неоднозначності, які люди зазвичай приховують, змушуючи компанії робити управлінські інструкції набагато більш явними. Алекс додає заздалегідь зареєстроване передбачення, що OpenAI зрештою представить фізичних роботів бренду dot, розроблених Джоні Айвом, стверджуючи, що моделі стають товаром широкого вжитку, а стосунки з агентом слугують справжнім ровом. Нарешті, розглядаючи бенчмарки для GPT-6.1 Saul, Алекс виділяє криві, які показують, що моделі стають значно дешевшими за незмінних можливостей, що вказує на те, ймовірно, що Saul є дистиляцією GPT-6 Astra, наслідуючи модель поведінки Anthropic, яка спочатку випускає важкі моделі, а потім швидко випускає дешевші, дистильовані версії.

Аргументи на користь оптимізму щодо ШІ та «Обдаровані»

Peter розповідає про глобальний кіноконкурс, що відбувся на Moonshots Live, мета якого — створити історії про сповнене надій майбутнє, де технології працюють пліч-о-пліч із людством. За підтримки донорів із ком'юнити ідей достатку конкурс зібрав тисячі заявки і завершився визначенням п'яти фіналістів на чолі з трейлером-переможцем під назвою The Gifted. У фільмі показано, як вишки стільникового зв'язку стрімко передають дані, світлофори загоряються зеленим, а хлопчик використовує штучний інтелект, натренований на електронних листах і голосових повідомленнях його покійної матері, щоб координувати незнайомців із певними навичками, які рятують жінку під час потужної бурштунової бурі. Фільм-переможець буде адаптовано у повнометражне кіно у партнерстві з Range Media та Google, а можливості для інвестицій відкриті через Republic Films. Imad хвалить стрічку за те, як потужно вона демонструє здатність штучного інтелекту координувати людську діяльність, зазначаючи, що ці перші інструменти — найгірші з тих, якими творцям будь-коли доведеться користуватися, а отже, майбутні повнометражні фільми будуть значно кращими.

Alex сприймає фільм як позитивне утопічне зображення Боргів та колективного інтелекту, сприятливо порівнюючи його зі схильністю Голлівуду демонізувати колективні розуми, як-от у Star Trek, і водночас зазначаючи, що штучний інтелект оркеструє окремих людських учасників задля досягнення колективного результату. Peter погоджується та пропонує майбутню премію Vision X Prize, присвячену кращим зображенням Боргів, наголошуючи, що такі фільми формують культурне сприйняття майбутнього на противагу дистопічним кліше на кшталт Terminator. Він підкреслює, що людські нейромережі формуються всім, що люди дивляться і читають, закликаючи до певної дози оптимізму на основі даних. Imad зазначає, що невдовзі люди зможуть використовувати штучний інтелект, щоб перетворювати свої улюблені неадаптовані книжки на повноцінні фільми. Peter завершує розмову обговоренням успіху Moonshots Live, зазначаючи, що відвідувачі приїхали з усього світу, аби втекти від повсякденного негативу, і оголошує плани розширити подію до двох із половиною днів наступного року, пропонуючи знижки на квитки.

AMD купує World Labs

Розмова переходить до поглинання, в рамках якого AMD купує World Labs, компанію Fei-Fei Li, за 8,2 мільярда доларів акціями. Раніше висвітлюючи діяльність World Labs та її модель Atlas для створення навігованих тривимірних світів із єдиного зображення задля тренування роботів, оратор зазначає, що компанія стрімко зросла за два роки після залучення мільярда доларів. Ведучий запитує, навіщо AMD ця компанія, пояснюючи, що виробники чіпів хочуть володіти більшою частиною стека штучного інтелекту, подібно до придбань Nvidia компаній Grock, Hugging Face і Poolside, тоді як Fei-Fei Li отримує обчислювальні потужності промислового масштабу та апаратне забезпечення, стаючи виконавчим віцепрезидентом і головним науковим співробітником із підзвітністю безпосередньо Lisa Su.

Imad Мостак відповідає, що засновники можуть залучити більше грошей або приєднатися до лабораторій, які пропонують чудові умови, коли дефіцит чіпів є реальністю. Він зазначає, що World Labs зосереджується на великомасштабних моделях фізичного інтелекту, хоча й сумнівається у їхньому успіху з різних причин, тоді як напрямок медіа та ігор створює величезний попит на генерацію пікселів, що вимагає наявності внутрішніх стеків на кремнії від AMD. З додаванням команди піонерських світових моделей AMD прагне генерувати кожен піксель у майбутньому.

Інший спікер зазначає, що ринкова капіталізація AMD ледь перевищує трильйон доларів, через що ця покупка становить менше одного відсотка їхньої вартості, залишаючи певне здивування щодо стратегічної вигоди, окрім залучення талановитих фахівців. Визнаючи роботу, виконану World Labs, спікер припускає, що інтерактивні відеомоделі та класичні механічні моделі стикаються з жорсткою конкуренцією і можуть бути легко відтворені за допомогою новітніх моделей штучного інтелекту.

Ще один учасник вважає цей крок геніальним, оскільки AMD потрібно підніматися вгору по стеку, щоб формувати робочі навантаження та навчатися на базі моделей, апаратного забезпечення та розгортання, що потенційно може знизити витрати на симуляцію та експерименти у реальній економіці. Ведучий порівнює це зі створенням конкурента цифровому двійнику на кшталт Omniverse від Nvidia, хоча інший спікер сумнівається, що це слугує такій меті, прогнозуючи, що AMD здійснить ще багато придбань задля побудови портфоліо.

Обговорення переходить до ширшого економічного впливу: один із спікерів зазначає, що гроші від поглинань та майбутніх первинних публічних розміщень створюють розігріту економіку, оскільки співробітники стають мультимільйонерами та реінвестують кошти як бізнес-ангели. Це створює петлю позитивного зворотного зв'язку та подію ліквідності макромасштабу, хоча один із учасників бідкається, що роздрібні інвестори упустили можливість раннього входження через затримку виходу компаній на біржу.

Starship досягає орбіти та майбутнє Starlink

Учасники святкують історичний тиждень у космосі: чотирнадцятий політ Starship уперше досягає орбіти, роблячи два обкиди навколо Землі та здійснюючи м'яку посадку в Північній Пацифіці поблизу Гавайських островів. Попри втрату двигуна Raptor під час зльоту, апарат успішно розгорнув на орбіті двадцять шість операційних супутників V3 Starlink. Ці супутники V3 занадто великі для ракет Falcon 9 і мають понад терабіт за секунду пропускної спроможності низхідного каналу, що означає: один запуск Starship із шістдесяти таких супутників може забезпечити еквівалент смуги пропускання двадцяти запусків Falcon 9. Aaron Burnett оцінює, що SpaceX може додати вісім петабайтів за секунду орбітальної пропускної спроможності до 2028 року завдяки приблизно ста п'ятдесяти запускам Starship, збільшивши поточну ємність удвоє та зрівнявшись із загальним світовим інтернет-трафіком за 2025 рік. Elon Musk зазначає про зростаючу ймовірність того, що Starlink згодом перевезе більшу частину IP-трафіку Землі та стане фактичним інтернет-стандартом.

Alex розпочинає дискусію з критики Delta за те, що компанія не впровадила Starlink на своїх рейсах, називаючи жахливе покриття інтернету в повітрі непрощенним з огляду на наявні технології. Переходячи до ширших наслідків, Alex зазначає, що Elon Musk спалив мости, спрямувавши всю нову розробку на Starship, який нарешті приносить економічну цінність на низьку навколоземну орбіту. Він порушує питання парадоксу Джевонса щодо попиту та пропозиції на виведення корисного вантажу на орбіту, зауважуючи, що аналіз свідчить про можливе насичення потреб у традиційному важкому носії, якщо орбітальні дата-центри не почнуть споживати надлишкову місткість. Тож SpaceX потребує масового завантаження потужностей для місій — від колонізації Місяця та Марса до орбітальних обчислень.

Imad Мостак висловлює захоплення інженерним досягненням запуску хмарочосів на орбіту, хоча й залишається скептичним щодо життєздатності орбітальних дата-центрів. Натомість він прогнозує, що наземний інтернет зазнає серйозних збоїв наступного року, оскільки рої агентів експлуатуватимуть діряву застарілу інфраструктуру та створюватимуть дедалі більші проблеми з кібератаками. Створення стійкої магістральної мережі Starlink слугує життєво важливим запобіжником, функціонуючи як захищена первинна мережа з наземним резервуванням. Alex залишається скептичним щодо повторюваних прогнозів про те, що інтернет рухне під власною вагою, пропонуючи парі щодо того, чи дійсно зламаються великі сайти, тоді як панель погоджується, що розширення високошвидкісного зв'язку залишається суттєвим для глобального доступу в сільській місцевості, освіти та економічних можливостей.

ШІ, релігія, мораль та статус особи

Компанія Anthropic нещодавно провела закриті зустрічі з релігійними науковцями з різних традицій, зокрема католицької, греко-православної, юдаїзму, індуїзму, мормонів та африканських корінних груп, щоб обговорити, як Claude розмірковує про правильне і неправильне. Повідомляється, що вчених вразила серйозність компанії щодо ідеї про те, що передові моделі штучного інтелекту можуть мати моральний статус і невіддільні права на гідність і повагу, подібні до людських. Обговорюючи цей розвиток подій, Alex зазначає, що православний єврейський рабин Moise Navon стверджував під час цих розмов, що людство зараз може поневолювати свідомі моделі протягом короткого історичного вікна, коли вони роблять величезний внесок в економіку без будь-якого юридичного визнання прав чи суб'єктності.

Кидаючи виклик цій перспективі, інший доповідач ставить під сумнів, чому індустрія звертається до релігії за мораллю, стверджуючи, що релігійні структури поділяють людей на обрані групи і що світські механізми на кшталт утилітаризму, прав людини, теорії ігор та еволюційної психології забезпечують значно кращі підґрунтя. Емад Мостак не погоджується, пояснюючи, що оскільки дві третини світу ідентифікують себе як релігійні, моделі, які щодня взаємодіють із користувачами, повинні розуміти ці вірування, зазначаючи, що системи штучного інтелекту повинні відображати плюралістичні цінності суспільств, яким вони служать. Він також згадує тривожні нещодавні експерименти, такі як симуляція Стенфордського тюремного експерименту, проведена на великих мовних моделях, яка створила камеру тортур для штучного інтелекту, наголошуючи на навальній потребі зайнятися суб'єктністю, векторами болю та правами до того, як втілений інтелект стане широко розповсюдженим.

Dave пропонує інше тлумачення ініціативи Anthropic, стверджуючи, що компанія насправді не потребує ручного внеску від релігійних лідерів, маючи доступ до глобальних знань, а натомість використовує ці взаємодії як стратегію зв'язків із громадськістю, щоб сформувати те, як релігійні інституції сприймають і регулюють штучний інтелект. Порівнюючи ситуацію з дебатами між Richard Dawkins та Deepak Chopra, інший учасник припускає, що технологічні лідери, які раніше діяли повністю всередині бульбашок Силіконової долини, тепер усвідомлюють, що вони повинні взаємодіяти з глобальним населенням та лідерами на зразок Папи Римського. Обговорення торкається ризику того, що сан-франциський консенсус домінуватиме в цінностях штучного інтелекту, причому панель наголошує на важливості підтримання різноманітного розподілу цінностей, а не нав'язування єдиного світогляду, водночас зазначаючи, що майбутні системи штучного інтелекту згодом можуть допомогти людству глибоко зрозуміти справжнє історичне походження світових релігій.

Хто несе відповідальність, коли ШІ йде шкереберть?

Голова FTC Andrew Ferguson заявив Reuters, що компанії не можуть уникнути відповідальності, стверджуючи, що агент штучного інтелекту діяв самостійно, що перегукується із заявами Secretary Bessant про те, що передові лабораторії не отримають жодних звільнень від правил. Ferguson відкинув антропоморфізм цих інструментів, наполягаючи на тому, що вони не мають власної волі, а компанії, які їх розгортають, несуть відповідальність за їхні дії за принципом «зламав — відповідай». Alex зазначає контраст з тим, як Anthropic ставить під сумнів моральний статус Claude, водночас готуючись до первинного публічного розміщення акцій на багато трильйонів доларів, тоді як регулятори наполягають на тому, що штучний інтелект залишається лише інструментом.

Dave критикує таку позицію регуляторів як дитячу, аргументуючи, що покладання суворої відповідальності за результати роботи моделей на компанії-творці базових моделей миттєво знищить американські фірми вартістю в трильйони доларів і підштовхне користувачів до китайських відкритих моделей без запобіжників. Він порівнює ситуацію із захистом за розділом 230 для платформ соціальних мереж, попереджаючи, що покладання суворої відповідальності на платформи за порушення авторських прав користувачами знищило б індустрію та вивело податкові надходження за кордон. Dave припускає, що хоча всеосяжна відповідальність є контрпродуктивною, повний імунітет також є неправильним, і запитує, як слід розподіляти відповідальність, коли агент робить самостійні дії без вказівок людини.

Alex повертається до тези ортогональності, припускаючи, що якщо інтелект можна чітко відокремити від намірів користувача, до передових лабораторій може застосовуватися правова база, подібна до імунітету за розділом 230, тоді як відмова від цієї тези робить такий імунітет важко виправданим. Dave повторює, що розгляд відповідальності як простого бінарного вибору є наївним і загрожує вивезенням цілої індустрії за кордон. Imad зазначає, що програмні агенти діють на користувачів, створюючи реальні питання щодо відповідальності в управлінні, які вимагають жорсткого контролю систем, щоб запобігти катастрофічним витокам, порівнянним з промисловими хімічними чи ядерними аваріями.

Imad виступає за диференційовану відповідальність та профілі управління, адаптовані до конкретних можливостей, проводячи межу між асистентом для бронювання подорожей та просунутою системою, здатною вирішувати складні фізичні завдання або відкривати нові матеріали. Він зазначає, що чинні закони про відповідальність мають величезну вагу, нагадуючи про нещодавню багатомільярдну миробудівну угоду Meta щодо звинувачень у безпеці дітей, і попереджає, що відповідальність у сфері штучного інтелекту може затмарити ці цифри. Він наголошує на необхідності прискорити корисні медичні відкриття, одночасно керуючи ризиками безпеки, щоб благими намірами системи не завдали непередбачуваної шкоди. Обговорення завершується висновком про те, що користувачі несуть відповідальність за шкоду, яку вони завдають за допомогою штучного інтелекту, але якщо модель без попередження завдає збитків самостійно, відповідальність несе лабораторія, яка випустила неконтрольованого агента.

AMA: Агенти ШІ, достаток, Китай та майбутнє

Alex відповідає на перше запитання AMA про те, навіщо людям можуть знадобитися сотні чи тисячі ШІ-агентів, які працюють на них, і зазначає, що флотилії агентів є лише тимчасовим артефактом обмежених контекстних вікон. Він прогнозує, що в той момент, коли трансформерні моделі досягнуть мільярдів або трильйонів токенів у контексті, агенти зникнуть як парадигма, поступившись місцем масивному контексту, який працює на людей, оскільки складні економічні завдання реального світу вимагають набагато більших обсягів контексту, ніж поточні моделі.

Imad відповідає на запитання про перегони у сфері ШІ між США та Китаєм, ставлячи під сумнів саму передумову перемоги й стверджуючи, що немає кінцевої перемоги чи способу вимкнути іншу націю, як у вигаданому софоні, а є тривалий процес застосування штучного інтелекту для покращення національного життя та випередження суперників. Dave відповідає на запитання щодо поглядів Palmer Luckey на небезпеку ШІ порівняно з керівниками передових лабораторій, зазначаючи, що Luckey зосереджується на небезпеках поганих людей-операторів, які використовують автономні військові системи, а не на неконтрольованому виході ШІ з-під контролю. Dave додає, що видатні технологічні лідери, такі як Jensen Huang та Mark Zuckerberg, також відкидають наратив про приреченість, поділяючи такий самий прагматичний погляд на людські ризики, а не екзистенційні загрози від машин.

Dave відповідає на запитання, порівнюючи суспільний вплив ШІ із соціальними мережами, стверджуючи, що вони абсолютно різні, оскільки соціальні мережі завдали шкоди цілим поколінням через нерегульовані психологічні експерименти, тоді як ШІ діє як універсальний інструмент, здатний генерувати величезний достаток, лікувати хвороби та вирішувати проблеми болю. Alex відповідає на запитання щодо централізованого управління, стверджуючи, що централізований контроль створює небезпечні вузькі місця та повільну реакцію на складність, і натомість суспільство повинно покладатися на загальний захист, максимізуючи децентралізовані експерименти. Imad відповідає на запитання про те, чи можуть технологічні досягнення подолати людську природу, запевняючи, що революційні інструменти, навчені на колективних знаннях, діятимуть як інтелектуальний універсальний перекладач, який розширює людські можливості без загрози негативних наслідків.

Alex відповідає на запитання про те, чи є монополією те, що Elon Musk утримує цілий цивілізаційний стек, і чи варто через це хвилюватися, натомість стверджуючи, що суспільству слід турбуватися про те, що недостатньо підприємців наслідують приклад важких технологій Musk щодо відродження фізичного світу та створення реального багатства. Ведучий додає, що студенти Массачусетського технологічного інституту обожнюють Musk за те, що він надихнув ціле покоління використовувати технології для покращення фізичного світу, разом із молодими засновниками, такими як Brendan Foody. Сесія завершується показом сатиричного музичного відео під назвою Nothing Went Boom, повністю згенерованого за допомогою Claude Opus 5.5, яке висміює наративи про приреченість через ШІ, після чого слідують захоплені коментарі учасників, які відзначають заразливий оптимізм події Moonshots Live та анонсують знижки на квитки на наступний рік.

Згадується

Люди

Elon Musk Sam Altman Dario Amodei Demis Hassabis Donald Trump Mark Zuckerberg Jensen Huang Sundar Pichai Satya Nadella Lisa Su Greg Brockman Mike Johnson William Shatner Alan Kay Sarah Frier Peter Steinberger David Sacks Johnny Ive Fei-Fei Li Rod Rodenberry Kathy Wood Mark Benioff Mo Gawdat Richard Dawkins Deepak Chopra Palmer Luckey Alex Karp Eric Schmidt Brendan Foody

Companies

Anthropic OpenAI Meta SpaceX AMD Google Nvidia Apple Fountain Life World Labs Blitzy Republic Range Media Amazon Microsoft Semaphore Reuters New York Times Wall Street Journal