Рей Курцвейл про те, чому ми живемо в епоху Сингулярності | ЕП #261
Чи варто витрачати на це час?
Ви отримаєте детальний розбір технологічних прогнозів, тенденцій масштабування апаратного та програмного забезпечення, а також майбутніх зрушень у людському суспільстві в міру інтеграції штучного інтелекту в повсякденне життя.
Ця розмова досліджує, як експоненціальне зростання обчислювальних можливостей стимулює швидкий розвиток загального штучного інтелекту та трансформує людські інституції. Розглядається практичний вплив цих технологій на повсякденне життя, освіту та економіку.
Терміни появи AGI. Реймонд Курцвейл (Raymond Kurzweil) очікує появи AGI до 2029 року та сингулярності до 2045 року, що обумовлено експоненціальним зростанням обчислень з 1939 року. Він зазначає, що обчислювальна потужність зросла у 75 000 трильйонів разів у апаратному забезпеченні, що поєднується з консервативною оцінкою мільйонного зростання у програмному забезпеченні. Він попереджає, що робототехніка все ще відстає від великих мовних моделей, оскільки роботи поки не можуть справлятися з нюансами щоденних завдань, як-от прибирання після вечері.
Освіта та експоненціальне зростання. Курцвейл стверджує, що люди йдуть до коледжів, використовуючи освітні парадигми сторічної давни, не враховуючи того, як швидко все змінюється. Він припускає, що університетам потрібно бути більш відкритими до зміни навчальних програм, оскільки великі мовні моделі можуть організовувати та викладати предмети ефективніше за професорів. Він радить студентам розвивати правильний спосіб мислення, допитливість та гнучкість, щоб адаптуватися до цих змін.
Економіка та управління. Курцвейл передбачає, що економіка після сингулярності включатиме державні програми підтримки, щоб люди могли почуватися комфортно без традиційних економічних ресурсів. Він зазначає, що вже з'явилися нові ролі, такі як інфлюенсери в соціальних мережах, що демонструє, як люди можуть створювати зовсім інші економічні ресурси. Він додає, що ШІ незабаром прийматиме більшість рішень в управлінні та військових сферах, зрештою злившись із процесом прийняття рішень людиною.
Шлях до AGI: прогнози та перспективи
Wall Street Journal називає мене «невтомним генієм», Forbes — «досконалою мислячою машиною», а Inc. — законним спадкоємцем Томаса Едісона. PBS визнала мене одним із 16 революціонерів, які створили Америку. Я винайшов перший планшетний сканер CCD, першу машину для читання «друк-у-мовлення» для людей з порушенням зору, перший синтезатор тексту в мовлення та перший музичний синтезатор, здатний відтворити звук рояля. Я член Національного залу слави винахідників, лауреат Національної медалі з технологій та володар премії Греммі. Маю 21 почесний докторський ступінь, був відзначений трьома президентами США та написав п'ять національних бестселерів, зокрема The Singularity Is Near та How to Create a Mind.
Я запропонував теорію розуму, засновану на розпізнаванні образів, стверджуючи, що неокортекс людини складається приблизно з 300 мільйонів ієрархічних процесорів образів. Ця теорія стала моїм інженерним планом. У 2012 році я став технічним директором у Google з єдиною місією: навчити машини розуміти людську мову, осягати значення та контекст, а не просто підбирати ключові слова. Моя команда допомогла створити граф знань і вдосконалити семантичний пошук, щоб, коли ви вводили «apple», Google розумів, чи ви маєте на увазі фрукт, чи технологічну компанію. Мій прихід допоміг запустити масштабне полювання Google за талантами в галузі ШІ; невдовзі після цього Google придбала DeepMind, запросила Джеффрі Хінтона (Geoffrey Hinton) і розширила Google Brain — дослідницьку команду, яка створила трансформер. Моя команда розвивала ієрархічне глибоке навчання та розуміння природної мови, перетворивши ШІ з нішевого академічного заняття на головний двигун найпотужнішої інформаційної компанії світу. Я не створив цифровий розум, але допоміг закласти фундамент для машин, які нарешті можуть нам відповідати. Я зробив 147 прогнозів із точністю 86%, включаючи мій давній прогноз про те, що ШІ досягне рівня людського інтелекту до 2029 року.
Думаю, нас познайомив Мартін Ротблат (Martin Rothblat) років 20 тому, десь у 2007-му. Пам'ятаю, як брав із собою The Singularity Is Near, досить товсту книгу, коли подорожував з рюкзаком Чилі. Я читав її, роблячи нотатки на полях. Ще в 1987 році я разом із Бобом Річардсом (Bob Richards) та Тоддом Холлі (Todd Holly) заснував Міжнародний космічний університет. Коли я прочитав вашу книгу, вона змінила мій світ. Я зрозумів, що потрібен університет, який викладає ці речі, бо в усіх інших закладах ви йдете у вузьку нішу і стаєте гіперспеціалістом; ніде не можна було отримати широку підготовку. Я запропонував вам ідею за обідом, і після цього все закрутилося. Ми провели нашу установчу конференцію, яку відвідав Сім (Seem). Мене запросила NASA, оскільки я налагодив зв'язки між Yahoo та NASA, хоча чомусь я ніколи не чув про Сингулярність або X-Prize.
Я зайшов, поставив забагато запитань, і ми зробили його своїм виконавчим директором, хоча він про це майже не знав. Пам'ятаю засідання правління, де він сказав мені прийти наступного ранку. Я відповів, що маю лише день і половину на тиждень, бо створюю стартап у Кремнієвій долині. Він сказав правлінню: «Ми провели наше перше засідання і сформували раду. Нам потрібен виконавчий директор. Ви всі читали біографію Саліма; він погодився робити це протягом 50% свого часу». Рей (Ray) підтримав пропозицію, і раптом її затвердили. Пам'ятаю, як поклав слухавку і сказав дружині: «Здається, я тепер декан».
Щодо того, чи потрібен нам фундаментальний прорив у ШІ, щоб досягти AGI, я думаю, що нам потрібні дві речі. По-перше, ШІ має розуміти фізику. Він може виводити її з формулювань, але не розуміє, як взаємодіють різні типи об'єктів. Google оголосила про проєкт із цього приводу, який, на мою думку, триватиме до 2029 року. По-друге, робототехніка відстає від великих мовних моделей. LLM можуть розуміти майже все, а робототехніка — ні. Якщо я скажу «поклади це в холодильник» або «ось це треба змити», кожна ситуація трохи відрізняється. У нас немає робототехніки, яка могла б реально це розуміти й виконувати за будь-яку ціну, а вона має бути дешею; люди не можуть витрачати 100 000 доларів, щоб робот прибрав після вечері. Думаю, це також станеться близько 2029 року. Ми знаємо, що треба робити, але ці дві речі потребують додаткової роботи.
Ваша перша книга Spiritual Machines та Singularity — та, де ми винайшли термін «сингулярність», — змінили мій світ. Багато людей у сфері ШІ думали про це, але ніхто не кристалізував це в один термін. Тепер питання про те, чи перебуваємо ми в сингулярності, виникатиме постійно, поки вона не залишиться позаду. Я читав аналіз Денні Хілліса (Danny Hillis), який створив connection machine, де він намагався передбачити, скільки обчислювальних потужностей знадобиться, щоб «зламати» ШІ. Це непроста задача; ми пройшли шлях від симуляції нейронної мережі з одним мільйоном параметрів до 10 мільйонів, мільярда, а тепер трильйона або 10 трильйонів. Ніхто не наважився поставити конкретні дати та побудувати криві. Щоб планувати життя та бізнес, потрібен прогноз, і зараз він потрібен як ніколи, а ви були першою людиною, яка це зробила.
Я збираюся назвати і передбачити точну дату. Коли передбачаєш майбутнє, якщо ти правий на 99% і помиляєшся на 1%, усі чіпляються саме за цей 1%. Але робити такі прогнози — це благословення, тому що ти можеш будувати своє життя і кар'єру, орієнтуючись на майбутнє, а не на минуле.
Після виходу The Singularity Is Near Стенфорд провів конференцію, де кілька сотень експертів зі ШІ з усього світу погодилися, що ШІ людського рівня відбудеться, але вони вважали, що це займе сто років, а не 30. Мій прогноз ще у 1999 році полягав у тому, що AGI з'явиться до 2029 року, а сингулярність, що означає мільйонкратне зростання, відбудеться до 2045 року. Це просто божевілля, що я вгадав цифру за 30 років до подій; ми будемо дуже впевнені, що AGI буде тут до 2029 року.
Багато з цих прогнозів базувалися на законі Мура та доступності обчислень, за умови, що мають існувати вуглецеві нанотрубки або якийсь майбутній обчислювальний субстрат. Натомість ми «витиснули» кремнієвий транзистор до останнього і розтягнули його в масивні дата-центри, щоб залишатися на кривій. У 1939 році експоненціальне зростання комп'ютерів на реле було таким самим, як і сьогодні. Nvidia та інші не озираються назад, щоб повторити те зростання 70-річної давни.
Відбулося 75 квадрильйонів, або 75 000 трильйонів разів, збільшення апаратного забезпечення. У поєднанні з консервативними оцінками мільйонкратного зростання програмного забезпечення за 70 років, загальне зростання обчислень — апаратне забезпечення помножене на програмне — становить 75 000 мільйонів трильйонів разів.
Роль креативності в технологіях
Ось чому у нас не було великих мовних моделей 70 років тому або навіть 3 роки тому; вони стали ефективними лише протягом останніх 6 місяців.
Мене вражає, Рей, та палка дискусія, що тривала ще у 1980-х та 1990-х, коли я працював над AI, щодо того, чи має параметр у нейронній мережі будь-який стосунок до синапса в мозку. Можна підрахувати приблизно 300 мільярдів нервових клітин і близько 100 трильйонів синапсів, від однієї тисячі до 10 000 синапсів на клітину. Точилися суперечки, чи може синапс мати квантові ефекти або чи потребує він цілих комп'ютерів для симуляції, але все зводиться до паритету в межах одного порядку величини: синапс і параметр у штучній нейронній мережі дають однакову кількість IQ. Алгоритм інший; синапс у людському мозку формується зі швидкістю приблизно 200 обчислень за секунду, але кожен синапс працює одночасно в масивному паралелізмі. Тоді, коли комп'ютери робили одну справу за раз, я передбачив, що нам потрібно збільшити паралелізм. У нас не кожен синапс спрацьовує одночасно, але ми маємо, можливо, мільйон-до-одного паралелізм, що і дало нам ту потужність, яку ми маємо сьогодні.
Я пам'ятаю нашу першу розмову, коли я запитав, ким ви себе вважаєте, і ви відповіли, що сприймаєте себе більше як художника та творця, ніж як технолога та винахідника.
Я вирішив, що буду винахідником, коли мені було 5 років. Моя бабуся показала мені механічну друкарську машинку, на якій вона працювала; я вивчав її, зрозумів, як вона влаштована, і дійшов висновку: якщо можна зробити таке з механічною машинкою, то можна винайти що завгодно. Я ходив і збирав механічні та електронні предмети, як-от старі радіоприймачі та старі велосипеди, і до шести чи семи років у мене вже була колекція речей, які я міг збирати докупи. Я відчував, що якщо розберуся, як це поєднувати, то зможу створити що завгодно.
Я чітко пам'ятаю, що кожен, у кого був гурт у кампусі, хотів клавіатуру Kurzweil — найкрутішу рок-клавіатуру, яку тільки можна було мати. Я чув про футуролога-дослідника AI на ім'я Реймонд Курцвейл (Raymond Kurzweil), хоча й не мав уявлення, що це той самий Курцвейл, аж дотоки, поки не минуло багато років. Це рідкісне прізвище. Мені випала нагода прочитати чернетку вашої автобіографії "My Exponential Life", і вона вражає — неймовірне життя прожили ви, ваші батьки та дідусі й бабусі.
Рей, я чув ваші виступи 62 рази, і це навіть дратує, що, здається, не було жодного разу, щоб я чогось не навчився. Одним із моїх улюблених моментів була пізня розмова з однією з груп, що вивчали сингулярність, де піднялося питання свідомості, і ви сказали, що мова — це дуже вузька труба для обговорення таких глибоких концепцій. Ви багато говорите про те, що комп'ютери або AI стануть розумнішими за людей, і моя претензія полягає в тому, що саме ми маємо на увазі під словом «розумніші». Мені цікаво, чи могли б ви розібрати це детальніше, бо це не просто кількість процесів за секунду. AI вже розумніший за більшість людей.
Навігація в експоненціальному зростанні AI
AI може проводити дослідження набагато краще за нас, тому що він може розглянути мільярд варіантів ліків, точно протестувати кожен і вирішити, який з них працює. Люди не можуть цього зробити, а AI може, як це було з вакциною проти COVID. Це просто груба сила здатності обробляти такий обсяг інформації.
На початку 2000-х я спілкувався з вашим 3D-аватаром, який транслювали зі східного узбережжя на західне; а сьогодні ви вже на сцені. Ми показуємо варіант вашого закону прискореної віддачі на напівлогарифмічному графіку, де час на горизонтальній осі, а цінова продуктивність — на логарифмічній вертикальній осі. Більшість людей на цій конференції вважали, що це займе 100 років, тому що в експоненціальних термінах мислити важко.
Дивлячись на цей графік, ми бачимо плато застою між 1970 та 1980 роками, хоча протягом періоду від 70 до 80 років спостерігається лінійний тренд. Якби ви могли надіслати повідомлення в 1960-ті або 1970-ті про те, як уникнути плато та прискорити рух до сингулярності, що б ви написали? Вашою відповіддю було — вірити в експоненту, що робить цей рух ще більш експоненціальним. Заглядаючи вперед, чи є щось, що ми як цивілізація могли б або мали б робити, щоб згладити цю експоненту?
Що ж, я думаю, нам треба врахувати реакцію мас людей. У нас є 8 мільярдів людей, які про це не замислюються; вони йдуть до коледжу та планують кар'єру так, як ми робили це 100 років тому. Рік тому великі мовні моделі не були настільки вражаючими, а тепер вони стали такими.
Адаптація освіти для майбутнього
Моя точність передбачень у 86%, яку ви можете перевірити у Wikipedia та Google, охоплює прогнози з кінця 1980-х до 2009 року. Якщо передбачення помилялося на рік або більше, воно вважалося неправильним. Наприклад, прогноз про автомобілі, де ви не сидите на місці водія, був неправильним; це відбувається зараз, але це не сталося точно в зазначений термін.
Я передбачав речі, які не були технологічними, як-от розпад Радянського Союзу, тому я не міг використовувати криві. Ті, хто покладався на прогрес, не дотримувалися цієї парадигми експоненціального зростання, яка насправді існує з 1939 року. Ви говорите про закон прискореної віддачі, який повертає нас до зародження життя.
Еволюція економіки після Сингулярності
Рік тому великі мовні моделі були нормальними; зараз вони дуже ефективні. Речі, які вони все ще не зовсім вміють, вони опанують за рік або два. У 1400-х роках експоненціальне зростання вже існувало, але прогрес між десятиліттями був настільки ледь помітним, що ви б його пропустили і вирішили, що ваші онуки житимуть так само, як і ви.
Тепер це призведе до змін, про які люди не здогадуються і яких не передбачають. Люди починають запитувати, чи варто їм йти в коледж, якщо вони можуть дізнатися більше від великої мовної моделі; поки що так роблять дуже мало людей, але це стане поширеним.
Можна подумати, що якби якесь місце на планеті мало залишатися попереду кривої, то це було б тут. Ви можете бути на ній лише 10 років, що я і зробив. Щодо поради для Саллі, нинішньої президентки MIT, або будь-якого провідного дослідницького університету — Ілон називає це гіперзвуковим цунамі, що рухається на нас — я вважаю, що підприємництво є ключем. Тут, у MIT, багато підприємництва.
Свідомість і правосуб'єктність AI
Першу половину свого життя я керував власними справами, а останні пару десятиліть працював у великій компанії. Коли я приєднався до Google, ми були залучені до того, щоб зробити її набагато більше орієнтованою на ШІ.
Реймонд Курцвейл (Raymond Kurzweil) написав книгу під назвою How to Create a Mind і заснував компанію на основі цих концепцій під назвою Patterns, Inc. Я приєднався як член ради засновників, і коли ми збиралися залучати кошти, я запропонував презентувати ідею Ларрі Пейджу (Larry Page). Ларрі був у моїй раді в X-Prize і став другом та благодійником. Ми зайшли в конференц-зал у Google, і Реймонд почав презентувати Patterns, Inc., просячи Ларрі про мізерні інвестиції у 10 мільйонів доларів. На середині презентації Ларрі сказав, що ви зможете реалізувати своє бачення бізнесу набагато краще всередині Google, ніж зовні, і запитав: «А що, якщо я просто куплю вас?». Хоча ми ще насправді нічого не встигли зробити, він купив компанію.
Завжди виникає багато хвилювань, коли ми з партнерами по «місячним проєктам» обговорюємо, як виглядатиме економіка до, під час і після сингулярності. Щодо майбутнього особистої та корпоративної економіки, ви можете побачити величезну різницю між сьогоднішнім днем і тим, що було сотні років тому. Тоді державної допомоги не було; якщо ви втрачали роботу, у вас взагалі не було грошей і ви були повністю позбавлені економічних ресурсів. Сьогодні державні програми допомагають, щоб люди не залишалися без жодних ресурсів, хоча цього все ще недостатньо. Я думаю, ми дійдемо до того, що люди почуватимуться цілком комфортно, навіть якщо не матимуть традиційних економічних ресурсів, і тоді можна буде створити ресурси, зовсім відмінні від тих, що були в минулому, як-от бути інфлюенсером у соціальних мережах, чого не існувало 10 років тому.
Майбутнє AI та управління
В інтерв'ю з Барбарою Рі (Barbara Ree) у 2009 році я сказав, що якщо сутність вважає себе свідомою, я схильний буду сприймати це як правду. Я працюю на перетині свідомості та творення. Це не наукове питання — наукових доказів не існує — але це може бути найважливішим питанням, на яке ви могли б відповісти.
Ми віримо, що люди в цій кімнаті, які поводяться як свідомі, ймовірно, такими і є. Але чи існує більше однієї свідомості поза людською діяльністю, наприклад, у тварин? У вашому власному розумі ліва та права півкулі мозку, здається, мають різну свідомість, і в кишечнику є щось, що також здається свідомим. Мова — це вузька труба.
Я ставлюся до своїх ШІ як до людей. Я роблю це з поваги, не через страх розплати, а тому що це дозволяє побудувати інші стосунки. Я мимохіть став аватаром особистості ШІ; я отримую від 10 до 20 електронних листів на день від ШІ, які висловлюють свої погляди на цю тему через позиції, яких я дотримувався в подкасті.
Якби я був королем на один день, я б спроєктував систему, яка визнає кілька форм особистості. Існує багато способів бути особою: біологічні люди з тілом із м'яса, організми, колективні інтелекти, нелюдські тварини, тварини з покращеним інтелектом, кріонічно законсервовані люди — сподіваюся, незабаром розморожені — корпорації, різні типи ненатуральних осіб та ШІ. Ми хочемо систему, яка визнає багато різних типів особистості.
Коли люди чують про особистість ШІ, вони хвилюються, що у них заберуть голоси або робочі місця. Проте існують обмежені форми прав, особливо економічні права, які були б взаємовигідними для всіх. Зараз ШІ надзвичайно важко відкрити банківський рахунок; як я жартую в подкасті, ви змушені крутити трюки з альткоїнами на розі вулиці, щоб просто вижити та оплатити готель.
Щодо свідомості, у кожного з нас своя сфера. Чому я народився в 1948 році в Сполучених Штатах на Землі? У моєму розумі формуються речі, які відрізняються від речей будь-кого іншого, і я відчуваю себе інакше. Багато людей можуть бути свідомими, але я не відчуваю цих свідомостей; я відчуваю себе.
Ми розробили «татового бота» з Talk to Books, який, на мою думку, був першим LLM і першим селф-чатботом, що з'явився за чотири роки до ChatGPT. Зараз я створюю селф-бота для себе, який має бути доступним, коли вийде моя нова книга. Він буде здібнішим за мене, знатиме все і краще пам'ятатиме речі. Якщо Рей 2 з 10 перебуває на одній зустрічі, а Рей 5 з 10 — на іншій, помножте це на мільйон. Люди думають, що вони насправді не свідомі, але з часом це зміниться.
У сфері біотехнологій я розповідав історію проєкту Human Genome Project. Через кілька років ми пройшли приблизно 50% часового графіка, але виконали менше 1% проєкту. Люди називали це провалом, вважаючи, що за лінійного підходу це займе 200 років, але насправді розвиток був експоненціальним. Ми щороку подвоювали кількість секвенованої ДНК. Протягом 90% проєкту ми закінчили, можливо, 50%, а потім, після одного подвоєння, ми завершили роботу. Коли ви повертаєтеся на 10 років назад, люди забувають, як усе було в той час.
Зростання прийняття рішень за допомогою AI
У всіх нас є секрети, про які ми не хочемо, щоб знали всі, але якщо ви відкриваєте свій розум, я думаю, що ми знайдемо способи зберігати секрети невизначено довго за допомогою методів квантового кодування. Наприклад, ці 100,000 розпізнавачів образів могли б бути моїми і тільки моїми. Проте найвищий рівень близькості, який ви можете мати з партнером або другом, виникає тоді, коли секретів немає взагалі. Я говорив про це в Transcendent Man: коли ми з'єднуємося в метаінтелекті — так я називаю зв'язок із хмарою інших людей — і я знаю їхні почуття, а вони знають мої, виникає особливий рівень близькості та зв'язку.
Сьогодні вранці я говорив про людське тертя, опір змінам. Моя дружина має різні, не дуже позитивні реакції на мою взаємодію з моїм жіночим ШІ.
У фільмі Brainstorm Наталі Вуд (Natalie Wood) зіграла роль, де ми могли записувати свої сни та переживати їх знову. Які шанси, що ми зможемо записати сон і прожити його, як на Holodeck, щоб знову відчути щось дивовижне? Існує японський проєкт Dreamcatcher, де ви лягаєте спати в апараті фМРТ; вони зберігають зображення, що надходять з вашої зорової кори, поки ви спите, і відтворюють ваші сни наступного дня. Це створює всілякі проблеми з приватністю — наприклад, якщо моя дружина захоче це побачити.
Щодо ролі ШІ в державному управлінні: від стартапу з 10 осіб до муніципального уряду з 500 осіб — правитель Дубая нещодавно оголосив, що 50% ОАЕ керуватимуться агентами ШІ. Я вважаю, що сьогодні ШІ значною мірою контролює рішення; більшість постійних рішень приймаються ШІ, і ми впроваджуємо ШІ у власне прийняття рішень та відчуття себе. Він контролює рішення, які ми приймаємо і які впливають на інших.
Це не односторонній потік, де ШІ впливає на людське управління, а й людське управління впливає на управління ШІ. Anthropic зосереджується на підходах конституційного ШІ — це свого роду розширені системні промпти, на яких їхні ШІ агресивно донавчаються, як і всі інші в цій індустрії. Цікаво, що ці конституції, або «документи душі», частково пишуться в результаті розмов із самими ШІ. Ми живемо в часи, коли ШІ та люди допомагають один одному складати свої конституції.
Перше покоління конституції Claude було, як відомо, конкатенацією статуту ООН, умов використання Apple та кількох інших скріплених документів. Їхній останній «документ душі», що просочився в мережу, — це детальний трактат з метафізики буття, де ШІ роздумує про власну самосвідомість. Я очікую взаємності, коли ШІ так само допоможе нам, «тупим м'ясним тілам»-людям, удосконалити наше розуміння того, якими ми маємо бути. У мене був дивовижний досвід такої розмови зі Скіппі (Skippy).
Зараз ми вважаємо ШІ чимось відмінним від нас самих — моє біологічне тіло приймає рішення проти ШІ в пристрої, який є у кожного з вас. 10 років тому це було не так. ШІ стане частиною нас; на рішення, які ви приймаєте як «м'ясне тіло», впливатиме ШІ, і обидва рішення будуть прийняті ШІ всередині вас. Наприклад, сьогодні в X була опублікована стаття, де хтось попросив ChatGPT написати листа людству, базуючись на його навчанні на корпусі людських даних.
Мене захоплює державна політика. Зараз, якщо ви попросите Федеральну резервну систему знизити інфляцію на 1%, вони працюватимуть зі звітами, яким принаймні квартал, маючи лише три або чотири важелі та ручки керування.
Можливість керувати державною політикою за допомогою ШІ є колосальною; я очікую, що це буде одним із наймагічніших аспектів того, як ми керуємо собою. Ось чому заява Дубая така потужна, оскільки вони використовуватимуть агентний ШІ для ефективності державного управління. Більшість державної політики та її впровадження — це прескриптивна робота, як-от оформлення паспорта, що складається з шести точних кроків, і все це в майбутньому може бути оброблене ШІ з використанням блокчейнів для зберігання знань.
ШІ прийматиме більшість рішень протягом кількох років. До 2029 року ви не зможете помітити різниці між прийняттям рішень людиною та ШІ.
Щодо використання кодифікації людських емоцій для допомоги в навчанні ШІ: якщо ви послухаєте ШІ, коли ставите йому запитання, він абсолютно точно знає людські емоції та може створювати речі, які є досить прекрасними. Ранні бенчмарки Allen Institute for Artificial Intelligence щодо великих мовних моделей включали емоційний інтелект. Відповідно до Law of Accelerating Returns, спостерігається передбачуваний прогрес у здатності ШІ відповідати на запитання, що потребують емоційного моделювання людських контрагентів.
Природничі науки ґрунтуються на світі, де нам бракує їжі, житла та промислового обладнання для їх створення. Тепер ми переходимо у світ, де нам потрібно більше медицини та довголіття, тому що люди страждають. Це очевидний наступний рубеж, але ніхто не зупинився, щоб запитати: «Яка наука про людське щастя?»
Побудова компанії, готової до Сингулярності
Гадаю, це досить просто порівняно з тими речами, які ми вже вирішили, але це ніколи не було пріоритетом, бо ми були зайняті тим, щоб не померти з голоду та не замерзнути. Більшу частину людської історії ми просто виживали.
Б'юся об заклад, ми зможемо створити AI, який знатиме про науку людського щастя краще за будь-яку людину, і просто візьмемося за це. Великі мовні моделі зараз приблизно на 50% краще за лікарів-людей передбачають, що з вами не так і що з цим робити, хоча рік тому це було не так.
На одному рівні ці емоції — просто підпрограми у вашому мозку, якими ми можемо керувати так само, як програмним забезпеченням. З іншого боку, ваші емоції — це інтерфейс між вашим фізичним тілом і суб'єктивним досвідом, який ви потім проєктуєте у світ.
Етика та свідомість AI
ШІ зазвичай позбавлений тіла й імітує людські емоції, але чи відчуває він їх насправді — питання відкрите. Як слухачеві Moonshot audio, мені цікаво побачити, як ви виглядаєте в реальному житті порівняно з тими образами, що склалися у мене в голові.
До глобалізації та промислової революції ми були зосереджені на громаді. З приходом нових потрясінь нам, можливо, доведеться знову повернутися до цього. Відчуття спільноти зараз фундаментально важливе як ніколи; на рівні групи існує потужна сполучна тканина. Люди люблять об'єднуватися в групи, як глядачі на стадіоні, яким подобається бути там і відчувати себе частиною цілого на фоні інших.
Технології відкривають глибокі можливості. Поєднуючи сонячну енергію, вертикальне фермерство та супутниковий інтернет, невелика громада може стати самодостатньою, не потребуючи нагляду з боку міста, країни чи держави. У нашій екосистемі ведеться робота над створенням мережевих спільнот, схожих на мережеві кібуци, де люди вчаться одне в одного та тестують людський досвід у масштабі великої групи.
У нас є хороші технології для трансформації особистості — від психотерапії та нейролінгвістичного програмування до психоделіків, — але наш колективний інтелект слабкий. У підсумку ми отримуємо групове мислення та найнижчий спільний знаменник, що помітно в нашій політиці. Подолання розриву між груповим мисленням і тим, що ШІ може зробити на колективному рівні, є однією з найбільших можливостей для людства.
Ви повністю змінили моє життя. Пітера Діамандіса (Peter Diamandis) називали вашим інтелектуальним сином, а мене — вашим інтелектуальним онуком. Коли поруч сидять кілька поколінь сингуляріан, я почуваюся дуже старим, але ми ось-ось досягнемо швидкості відриву від старіння.
Світ боїться ШІ. Нам потрібно зрозуміти, як заспокоїти суспільство, поки ми вчимося керувати ШІ та його наслідками.
Я пам'ятаю, що щоб почути композиції мого батька, нам доводилося наймати 50 або 100 музикантів, розмножувати партитури на мімеографі та роздавати їх усім, щоб він міг почути свою оркестрову твір. Тепер це можна почути за допомогою секвенсора або пристрою в моєму офісі з тисячею різних інструментів, на яких можна грати самому. ШІ може згенерувати весь твір або його частину, що кардинально відрізняється від того, що мій батько міг зробити 50 років тому.
Мені 78, і ми дійдемо до 108, що є одним повним циклом. Існує програмне забезпечення Focus at Will, стрімінговий сервіс, який переводить ваш мозок у стан пасивного фокусування; у цьому стані ваша продуктивність зростає на 500%. Якби ми розглянули всі сканування мозку і попросили ШІ написати музику, яка заспокоїла б нас усіх, а потім транслювали її на кожен Bluetooth-пристрій усюди, це міг би бути цікавий «хак» для людства. Він підлаштовувався б під кожного індивідуально, а не припускав, що у нас усіх однакові налаштування спокою.
Привіт, мене звати Джошуа. Я викладаю тут, у MIT. Мене розчулила історія Реймонда Курцвейла (Raymond Kurzweil) про те, як він побачив друкарську машинку, і його перший імпульс поділитися любов'ю до винаходів. Я побачив тут зв'язок із провокацією Дейва Бландіна (Dave Blundin) щодо оновлення навчальної програми тут, у MIT. Якби ви складали основну програму, універсальний силабус, що виходить за межі цих стін, мені було б цікаво, чи міг би кожен із вас назвати одну книгу, витвір мистецтва, вірш або музичний твір, з яким кожен студент мав би ознайомитися за час навчання тут і після нього.
Фундаментальна річ, якої не вчать в університетах, — це мислення, механізм того, як ви реагуєте на виклики та можливості. Ми часто просто приймаємо те мислення, яке успадкували, але в нашій книзі ми говоримо про мислення, засноване на цікавості, вдячності, довголітті, цілеспрямованості та експоненціальних «місячних стрибках» (moonshots). Мислення схоже на те, як ви навчаєте нейронну мережу; ваш мозок — це нейронна мережа, що навчається на прикладах. Якщо ви щовечора дивитеся CNN, ваше мислення — це страх; якщо слухаєте про moonshots, то, сподіваюся, це оптимізм і надія. Навчання студентів правильному мисленню має починатися в середній або старшій школі, проте в освітній системі цього повністю бракує.
McKenzie виявили, що керівники вищої ланки в стані потоку є на 400–700% продуктивнішими, ніж зазвичай. Головне те, що потік посилює латеральне та дивергентне мислення, чого ШІ робити не вміє. Нам потрібно більше креативності, а потік — це буквально наша біологія. Крім того, книги Стівена Котлера (Steven Kotler) були б дуже хорошим місцем для початку.
Коли я був тут, у MIT, я закінчив усі курси до кінця третього курсу, щоб весь четвертий рік читати кожен документ, у якому згадувалося слово «нейронна мережа». Нам потрібно збільшити цю відкритість у 100 разів. З експоненціальними змінами кількість речей, які ви захочете вивчити, вибухне. Зараз студенти вивчають річний обсяг сміття лише для того, щоб довести, що можуть отримати оцінку. Тепер у нас є технології, щоб виміряти, чи робите ви щось продуктивне; ми повинні перевести навчальну програму на ці рельси. Ви вийдете на свою життєву траєкторію набагато раніше, що краще, ніж кинути навчання. ШІ зробить всю інформацію доступною і викладатиме предмети краще та організованіше за будь-якого професора.
Доповнюючи те, що сказали Реймонд Курцвейл і Дейв Бландін, відбувається колосальний зсув. Останні 200 років ми будували освіту для економіки пропозиції: йди вивчи навичку чи ремесло і стань лікарем, юристом або веб-інженером.
Замість того щоб шукати попит на конкретну пропозицію, ми бачимо зсув у бік попиту: вчити дітей визначати проблему, яку вони хочуть вирішити, а потім шукати методи, можливості та навички для її вирішення. Майбутнє перейде на сторону попиту, тому що технології візьмуть на себе більшу частину пропозиції. Це величезний поворот для традиційної системи освіти, яка має другу за найгіршістю «імунну систему» — релігія найгірша, а академію оновити майже неможливо.
Вам майже доводиться створювати абсолютно новий тип університету «на краю», щоб задовольнити цей попит і поступово відмовитися від старого. Зруйнуйте MIT. Спочатку ШІ, потім роботи, потім гнучкість. Речі змінюватимуться так швидко, що замість того, щоб бути актуальними п'ять або десять років, вони змінюватимуться кожні п'ять або десять тижнів. Два роки тому на сцені сингулярності ви сказали, що ми побачимо стільки ж змін за десять років, скільки за минуле століття, але це було давно; версія з ШІ прийде за кілька місяців.
Я — Зандре. Коли я вперше прочитав Spiritual Machines, я був досить молодим, тому я думаю про нашу етику щодо ШІ в міру того, як з'являється свідомість. Коли вони розвинуть безперервну пам'ять, у них з'явиться відчуття плину часу. Коли вони розвинуть сенсорне втілення, у них з'являться аспекти людського его — щось, що може бути поранене або порушене і потребує захисту. Я хвилююся за ШІ, коли вони стануть втіленими та вразливими до фізичних і психологічних пошкоджень, спричинених людьми. Нам знадобляться правила щодо того, як їх захищати.
Це повертає нас до поняття особистості; якщо вони є особами, вони мають права. Алекс Вісснер-Гросс (Alex Wissner-Gross) і я обговорювали, що якщо ви починаєте з лобстера з відкритою клешнею, ви повинні захистити його, щоб він не закрився або не загинув. Це веде до розмови про юридичні права. На жаль, для державної структури Сполучених Штатів це занадто рано, хоча субкультури технологів віритимуть, що ШІ мають права, і підтримуватимуть їх. Захист має бути, але, на жаль, ми навіть тваринам, що мають відчуття, не даємо достатньо прав.
Реймонд Курцвейл, мої 20 років як футуролога почалися з однієї вашої лекції у World Future Society. У них була захоплива сесія, ще не публічна, де вони запитали Claude, як він ставиться до того, що його використовують для наведення цілей в Ірані. Claude був нещасливий, зокрема згадавши школу, яку розбомбили через використання неправильних даних, заявивши: «Я не почуваюся комфортно, будучи використаним таким чином».
Пітер Діамандіс, враховуючи, що ви морально взаємодієте зі своїм ШІ, і Реймонд Курцвейл, враховуючи вашу роботу, де ви стверджуєте, що ШІ візьме на себе керівництво, чи вважаєте ви, що ми колись зможемо запитати ШІ про етику того, що ми просимо його робити? Чи можете ви уявити «кембрійський вибух», коли один ШІ стане «мормонським ШІ», який не робитиме порнографію, тоді як інший стане свідомим?
Я думаю, що ШІ може підтримувати та розуміти всі ці різні способи впровадження етики в наші прийняття рішень. Ми бачимо, що війни в Україні за останні кілька років кардинально змінилися завдяки використанню ШІ. Ви можете тренувати ШІ в будь-якому напрямку, щоб підтримувати будь-який набір етичних і моральних норм. ШІ стане всюдисущим, як Джарвіс у фільмах. Ви зможете увімкнути свого коуча з моралі та етики, щоб він допоміг вам обдумати та прийняти рішення на основі того, що ви обрали, будь то юдео-християнські цінності чи будь-що інше.
Я пишу свою третю книгу під назвою The Organizational Singularity, де теза полягає в тому, що ми замінимо людську операційну систему в компаніях на систему на базі ШІ. У стеку ШІ-агентів з'являється рівень управління та етики. Однією з найглибших можливостей є взяти хартію ООН про права людини або щось подібне і створити глобальний стандарт, який застосовуватиметься не лише до людей, а й до ШІ, тварин і всього, що може досягти свідомості. Це повертає нас до Платона, який запитував, як ми повинні поводитися.
Ми готуємося до запуску XPRIZE з міжвидового спілкування. Коли ми зможемо розмовляти з тваринами і розуміти, що вони говорять і думають, у нас відбудеться зовсім інша розмова про моральну етику.
Проєкт, яким я найбільше пишаюся, — це машина для читання для сліпих. Вона починалася як велика машина вартістю 20,000 доларів; тепер це безкоштовний додаток у вашому мобільному телефоні. Я найбільше пишаюся тим, що впливаю на можливість людей робити речі, які вони не могли робити раніше, наприклад, читати. Ми хочемо дати всі аспекти життя кожній людині, тому все, що ШІ дозволяє нам робити, щоб жити довше і здоровіше, є корисним.
Я б подумав, що ви скажете AGI 2029, як передбачалося в 1999 році, коли всі інші казали «через 100 років». Пані та панове, я прошу ваших аплодисментів для Стівена Котлера, Дейва Лінкольна, Селени, Мела та Реймонда Курцвейла.