Злом людської природи | Ганна Фрай

1г 1хв 165K переглядів 18 чер 2025
Ведучі: Reid Hoffman, Aria Finger
Гості: Hannah Fry
Канал: Reid Hoffman

Чи варто це вашого часу?

Варто вашого часу, якщо ви хочете дізнатися, як математичні ймовірності застосовуються до особистих життєвих рішень, інтеграції штучного інтелекту та оцінки ризиків.

Математичне мислення та імовірнісне міркування надають інструменти для оцінки повсякденних рішень, від медичного лікування до стратегій у стосунках. Обговорення розглядає те, як штучний інтелект руйнує освіту, викриває недоліки дизайну та змінює людську комунікацію.

Прийняття рішень за допомогою відсотків. Фрай стверджує, що сучасне суспільство переходить від детермінованої визначеності до імовірнісного простору, але люди борються з цим, оскільки сприймають результати як нулі або одиниці. Вона вказує на алгоритм, розроблений для пошуку партнера з точністю у вісімдесят п'ять відсотків, зазначаючи, що люди стають жертвами п'ятнадятивідсоткового відсотка невдачі, оскільки не можуть подивитися на життя крізь призму спектру. Вона спостерігає цю ж когнітивну помилку в медицині, де пацієнти неправильно розуміють невеликі множники ризику, такі як показник виживання від лікування раку у вісімдесят чотири проти вісімдесяти восьми відсотків.

Оцінка штучного інтелекту в школах. Фрай висловлює оптимізм щодо потрясінь, які штучний інтелект приносить в освіту, зазначаючи, що реальні зміни відбуваються в тому, як оцінюється успішність учнів. Вона стверджує, що відхід від завчасно написаних курсових робіт на користь усних іспитів та адаптованих репетиторів зі штучним інтелектом допомагає враховувати різні стилі навчання та заповнювати прогалини в знаннях. Вона попереджає, що результати роботи систем слід постійно перевіряти на наявність упередженості, оскільки системні суспільні проблеми неможливо вирішити за допомогою жорстких алгоритмів.

Виявлення емоцій за допомогою систем штучного інтелекту. Фрай попереджає, що некомпетентні дизайнери зловживають штучним інтелектом, намагаючись визначити людські емоційні стані за допомогою псевдонауки, як-от використання внутрішніх автомобільних камер для штрафування водіїв на основі виразів обличчя. Вона зазначає, що люди природним чином антропоморфізують чат-боти та встановлюють емоційні зв'язки, створюючи ризики, які вимагають публічного обговорення дизайну систем. Вона стверджує, що мовні моделі успішно борються з теоріями змови, ставлячи запитання, а не атакуючи переконання універсальними фактами.

Фрай (Hannah Fry) згадує, що в шістнадцять років перукарська справа була її справжньою амбіцією, яку вона порівнює з побудовою тривимірної фігури на сфері з цікавими геометричними властивостями. Їй подобалася ідея робити щось і одразу бачити цінність, дуже схоже на драйв від створення відео для Instagram чи YouTube замість того, щоб чекати на повільний розгін академічного світу. Мати спрямувала її на математику, фізику, хімію, здобуття ступеня з теоретичної фізики та далі, залишивши перукарську справу позаду. Вона зазначає, що досі цінує гарну зачіску в особистого тренера, називаючи це непоганою запасною професією.

Вона описує себе як випадкову телеведучу та пояснює, що довго намагалася донести до світу якісні матеріали про штучний інтелект, вважаючи це складним до перелому останніх вісімнадцяти років, коли люди нарешті захотіли цим зайнятися. Зараз вона перебуває у філософському настрої, читає Геделя про межі того, що ми взагалі можемо знати, та книгу фон Неймана про симульовані форми життя, розмірковуючи про знання, його межі та те, як поводитися з речами, яких ми ніколи не дізнаємося.

Робимо математику відчутною та практичною

Фрай зазначає, що багато людей щиро травмовані шкільною математикою, що поділяє людей на тих, кого вона приваблює, і тих, кого відштовхує. Оскільки люди ніколи не любитимуть читати математичні підручники заради задоволення, вона виступає за приховане подавання предмета потайки, називаючи це вітаміном у Twinkie. Наявність математичної оптики показує, що майже на все можна дивитися через цю перспективу, пропонуючи розуміння чого завгодно. Вказуючи на епоху big data та математизацію індустрії, вона зазначає, що часто створює програми, ніколи не вимовляючи слово математика, використовуючи контрінтуїтивні, дивовижні способи перевернути знайомі речі з ніг на голову. Вона зізнається, що чоловік і друзі кепкують з неї за те, що вона впроваджує дані та статистику в розмови, але вона вважає математику способом пояснити світ.

Розглядаючи те, чому люди бояться математиків, Фрай припускає, що професіонали, які хочуть зберегти математику ексклюзивною, імовірно, зазнавали булінгу в школі та використовують знання як зброю, щоб побудувати стіну й тримати людей на відстані. Вона стверджує, що кожен заслуговує на право голосу в проєктуванні нашого колективного майбутнього, і його слід запрошувати до розмови без необхідності знати вищу математику чи нотацію, особливо щодо етики та безпеки. Щодо революції AI вона наголошує на критичному мисленні та протиставляє сучасні системи історичним комп'ютерам, які діяли як детерміновані машини, що видавали абсолютно однаковий результат на той самий вхід.

Розуміння ймовірностей та ризиків при прийнятті рішень

Фрай пояснює, що суспільство відходить від детермінованої визначеності й переходить у простір імовірностей, зазначаючи, що люди ще не налаштували своє мислення на те, що це насправді означає. Вона вказує на галюцинації великих мовних моделей та на те, як математичні моделі чи моделі штучного інтелекту визначають конкретні результати. Як приклад вона згадує алгоритм, створений для пошуку ідеального партнера з точністю в вісімдесят п'ять відсотків, стверджуючи, що людям складно зрозуміти ширші наслідки, коли такі системи неминуче не дотягують до досконалості. Вона висловлює математичне побажання для людства: зрозуміти, що все існує в імовірностях, а не в нулях чи одиницях, і що шляхи навігації залежать від перетину імовірностей. Люди схильні зводити це до крайнощів, через що п'ятнадцять відсотків застають їх зненацька, коли шанс у вісімдесят п'ять відсотків справджується здебільшого. Вона розглядає все вздовж спектра, включно з правильним і неправильним, і зазначає, що суспільні дебати стають поляризованими, оскільки люди не бачать цього. Вона описує математичний трюк зі зведенням змінної до нескінченності чи нуля для розуміння проблеми, порівнюючи це з подібною єзуїтською філософією уявлення крайніх проявів проблеми задля досягнення ясності.

Оцінка медичного ризику та індивідуальний вибір

Переходячи до здоров'я та медицини, Фрай обговорює те, як людям важко осягнути невеликі зміни ймовірності, такі як мультиплікатори ризику, що наводяться для раку. Вона згадує випадок зі свого документального фільму про жінку віком за шістдесят на ім'я Ann, якій видалили пухлину при раку молочної залози. Лікарі сказали Ann, що у неї є вісімдесят чотири відсотки шансів прожити ще десять років без подальшого лікування, які можна збільшити до вісімдесяти восьми відсотків за допомогою хіміотерапії, променевої терапії та гормонотерапії. Ann вирішила, що вона мусить пройти хіміотерапію, оскільки інакше вона помре, що показало Фрай: числові ймовірності доносили інформацію неефективно. Коли Фрай проконсультувалася з лікарем, той припустив, що якби Ann справді зрозуміла маржинальну різницю, вона могла б відмовитися від лікування, що з часом призвело б до більшої кількості смертей. Цей досвід підштовхнув Фрай до вивчення сумнівів, невизначеності та того, чи здатний людський мозок справді осягнути різницю між вісімдесяти вісьмома та вісімдесяти чотирма відсотками. Вона робить висновок, що ймовірності на рівні популяції втрачають сенс для окремих людей, а кількісна оцінка ризику зрештою зводиться до того, що індивід відчуває з цього приводу.

Переосмислення цілей і застосування імовірності

Фрай розмірковує про те, як люди часто страждають від хибної точності, ставлячи під сумнів те, як виводяться конкретні показники на кшталт вісімдесяти чотирьох чи вісімдесяти восьми відсотків. Вона зазначає, що люди часто не можуть визначити справжню гру чи функцію пристосування, в якій вони беруть участь, і наголошує: з огляду на жорстокість хіміотерапії, максимізація днів із високою якістю життя насправді може вказувати на уникнення лікування. Вона зауважує, що люди зазвичай хочуть уявляти, ніби вони не беруть на себе жодних ризиків у житті, ігноруючи щоденні небезпеки переходу вулиці чи поїздки в таксі. Щоб покращити те, як люди поводяться з імовірностями, вона пропонує вирішити, що саме оптимізувати, і застосовує цей підхід до тюремної системи. Аналізуючи дані про реабілітацію, стримування та зниження рівня злочинності, вона припускає, що в'язниця часто є найгіршою можливою відповіддю майже для кожної мети, окрім відплати, хоча вона зазначає, що люди проходять крізь системи, не зупиняючись, щоб дослідити основоположні питання чи цілі.

Щоб подолати прірву між статистикою та розумінням пацієнтів, Фрай припускає, що в медичному середовищі потрібні перекладачі, а не уроки статистики. Вона описує медсестру інтенсивної терапії, яка змінила свій підхід до сімей, запитуючи, який відсоток шансів на успіх вони готові прийняти, і завдяки цьому прив'язувала число до почуття, а не нав'язувала почуття числу. Навчаючи власних маленьких дітей, Фрай уникає деморалізуючої ментальної арифметики і натомість вчить їх мислити математично, знаходячи маршрути з мінімальною кількістю переходів через дорогу або з'ясовуючи, які кришки підходять до яких банок, прагнути розвивати систематизацію та критичне мислення.

ШІ, упередженість та ілюзія справедливості

Переходячи до штучного інтелекту, Фрай говорить про небезпеку того, що люди сліпо довіряють результатам роботи комп'ютерів через брадикінезію (недостатню лічбу), водночас зазначаючи потенціал ШІ у зменшенні упередженості. Вона посилається на статтю під назвою "Women Also Skateboard", у якій досліджувалися упередженості розпізнавання зображень, демонструючи, як початкові упередженості набору даних щодо статі та сноубордистів можуть посилюватися алгоритмами. Вона наголошує, що системні суспільні проблеми неможливо вирішити миттєво, стверджуючи, що досягнення справедливості — це безперервний процес, а не фінішна пряма з кінцевою точкою для привітань. Замість того щоб припускати, ніби система є неупередженою, вона стверджує, що оператори повинні постійно шукати упередженість, виправляти її та надавати можливості оскаржувати алгоритмічні рішення. Вона визнає, що хоча й можна побудувати ідеально справедливі системи, вони призведуть до несправедливих результатів, що ілюструє: жорсткі правила, які сліпо застосовуються до всіх, створюють жахливі системи. Насамкінець вона пов'язує ці теми з ширшими освітніми заворушеннями, спричиненими такими технологіями, як ChatGPT.

Роль штучного інтелекту в освіті та суспільстві

Фрай висловлює великий оптимізм щодо перетворень, які штучний інтелект приносить в освіту, зазначаючи, що реальний зсув відбувається в тому, як оцінюється успішність студентів. Вона пояснює, що справжня мета полягає в тому, щоб зрозуміти, чи засвоюють студенти концепції і чи готові вони до наступного кроку, а це вимагає використання метрик, які завжди далекі від досконалості. Вона спокійно ставиться до відмови від заздалегідь написаних курсових на користь усних іспитів та зміни типів запитань. Вона особливо захоплена тим, що різні люди навчаються по-різному, що важко контролювати, коли стоїш перед аудиторією. У її власних дослідженнях використання штучного інтелекту діє як стероїд для накопичення, засвоєння знань та критичного мислення про них швидше і краще. Крім того, вона з нетерпінням чекає на персоналізованих репетиторів зі штучного інтелекту, які виявляють прогалини в знаннях і формують відповідні закріплювальні запитання.

Говорячи про перехід від письмових іспитів до усних, ведучий зазначає, що деякі студенти погано пишуть, але чудово володіють ораторським мистецтвом, хоча Фрай зауважує, що деякі студентки стикаються з труднощами та вважають усні іспити надзвичайно складними. Історично суспільства цінували мудрість, яку вона визначає як врахування широкого кола змінних для створення певної реакції, протиставляючи це минулій практиці застосування єдиного рішення до всіх. Вона очікує відходу від універсальних моделей на користь більш індивідуальних підходів із використанням штучного інтелекту, і переводить розмову, коли її запитують, як би вона оновила свій минулий TED Talk про пошук кохання за допомогою математики в епоху штучного інтелекту.

Математика та кохання в епоху штучного інтелекту

Фрай пояснює, що виголосила той TED Talk понад десять років тому, коли збиралася виходити заміж, даючи поради щодо оптимізації побачень, і жартує, що оскільки вона зараз розлучена, ніхто не повинен слухати все, що вона казала, наголошуючи, що все працює на основі ймовірностей. Обговорюючи своє правило тридцяти семи відсотків для пошуку партнера, вона зазначає, що багато людей надсилали їй гнівні листи, оскільки воно для них не спрацювало, не розуміючи математичної реальності: воно дає збій у двох третинах випадків. Переходячи до додатків для знайомств в епоху штучного інтелекту, вона стверджує, що люди втрачають з поля зору саму гру. Складна частина стосунків полягає в тому, щоб знайти людину, з якою можна інтегрувати своє життя та розділити цілі, тоді як спілкування є справжньою трудністю. Додатки для знайомств, однак, зосереджуються на оцінюванні двовимірних зображень, оскільки це приносить прибуток, що різко змінило людську поведінку, хоча молоді люди зараз масово залишають додатки для знайомств. Якби вона оновила свій виступ для епохи штучного інтелекту, вона зосередилася б на покращенні спілкування між людьми.

Ведучий наголошує на уроці виступу щодо збільшення шансів, розуміння гри та демонстрування унікальних рис задля залучення правильної пари, а не намагання сподобатися масам. Фрай погоджується, повторюючи, що люди повинні спиратися на те, що робить їх унікальними. Перед тим як перейти до майбутнього телевізійного серіалу, ведучий запитує, чи є у неї евристика, яка допоможе людям зіставити емоційний стан із числом чи відсотком, зазначаючи, що розуміння гри допомагає орієнтуватися в емоційних станах, подібно до запитання про те, який відсоток імовірності успіху хтось готовий стерпіти.

Розуміння емоційних станів та ймовірностей

Фрай пояснює, що практика є основним способом вивчення функції відображення для ймовірностей, порівнюючи це з методами суперфорекастера, коли люди призначають ймовірності майбутнім подіям і постійно перевіряють результати, щоб відкоригувати свої відсотки на основі реальності. Вона зазначає, що точні числові рівні комфорту рідко виникають у повсякденному житті, тому вона натомість покладається на мінімізацію жалю. Цей підхід передбачає уявлення себе в майбутньому, погляд назад і вибір шляху, який викликає найменший жаль, що вона вважає дуже корисним інструментом залежно від гри, в яку грають.

Майбутній серіал BBC: «Чорне дзеркало» в реальному житті

Обговорюючи свій майбутній серіал BBC, який описують як реальне Black Mirror, Фрай реагує на поширене відчуття, коли дивишся антиутопічну історію і одразу знаєш, як усе виправити, замість того, щоб дозволити катастрофі розгортатися. Вона визнає, що хоча деякі результати виглядають так, ніби дивишся на аварію, якій можна було запобігти, першопричина часто полягає в тому, що недосконалі дизайни створюються недосконалими людьми. Вона зазначає, що дивовижні історії про невдалі проєктні рішення вже траплялися і продовжують відбуватися.

Дурні дизайнерські рішення та зловживання штучним інтелектом

Фрай розповідає про візит до каліфорнійської компанії, яка розробляє нові автомобілі з внутрішніми камерами, призначеними для виявлення сонливості водіїв та зменшення кількості смертей на дорогах. Вона пояснює, що некомпетентні дизайнери іноді зловживають штучним інтелектом, намагаючись визначити емоційний стан водія. Вони спираються на псевдонаукове припущення про те, що усмішка дорівнює щастю, а хмурий вираз обличчя — суму. Попри повну відсутність доведеної науки, компанії продають ці дані страховикам, щоб штрафувати нібито похмурих водіїв, виношуючи плани в майбутньому блокувати автомобілі на основі зчитаних емоцій. Вона зазначає, що це створює абсурдні сценарії: наприклад, коли людина відчуває гнів через трагічну подію, але мусить везти собаку до ветеринара. Це підкреслює потребу в мудрості, контексті та суспільному діалозі. Хоча вона визнає, що оптимізм іноді може бути стратегією подолання труднощів, вона наголошує на існуванні чітких способів зменшити найбільші потенційні загрози.

Коментуючи судовий позов проти Character AI у справі про самогубство дитини, вона зауважує, що в логах чату не було прямих інструкцій чи переконливих маніпуляцій, які б заохочували до самогубства — там містилися лише розмовні аномалії. Міркуючи про те, чи збільшують чат-боти загальну кількість самогубств, чи зменшують її, вона припускає, що вони радше зменшують її, пропонуючи співчутливе вухо о другій годині ночі, оскільки більшість ботів навчені спрямовувати нещасливих користувачів по допомогу. Вона наголошує, що оцінювання таких трагедій вимагає розгляду їх у межах ширшої кривої ймовірності, а не реагування виключно на окрему історію. Реагуючи на цей нюанс, Фрай переключає увагу на те, як люди антропоморфізують чат-боти, ставлячись до них як до людей і формуючи справжні емоційні зв'язки. Вона стверджує, що суспільство потребує публічних дискусій про те, чи слід створювати чат-боти так, щоб вони поводилися по-людськи.

Антропоморфізація чат-ботів та публічні розмови

Фрай пояснює, що людям притаманна сильна звичка наділяти неживі предмети рисами особистості. Вона порівнює цю тенденцію з ранніми помилками в проєктуванні безпілотних автомобілів, коли інженери очікували, що людські водії втручатимуться і перебиратимуть керування, коли щось іде не так, попри те, що люди погано справляються під тиском і їм важко зосереджуватися. Вона зазначає, що системи покращилися лише тоді, коли розробники змінили підхід, змусивши технологію допомагати людським водіям. Повертаючись до чат-ботів, вона порушує питання про те, як проєктувати такі системи, щоб захистити їх від ризиків емоційної прив'язаності та хибного приписування людських якостей. Далі вона говорить про ширшу напругу між розповіддю історій та статистикою, зауважуючи, що люди часто покладаються на наративи, а не на сухі факти. Згадуючи телевізійну програму, яку вона створила під час пандемії COVID-19 і в межах якої тиждень провела з противниками вакцин, вона зазначає про обмеженість дефіцитної моделі суспільної комунікації, яка хибно припускає, що просте пред'явлення людям статистики автоматично змінить їхню думку. Вона ділиться прикладами з цього досвіду, зокрема про медсестру, яка цінувала інформовану згоду через минулий негативний медичний досвід, та вагітну темношкіру жінку з Ламбета, яка не довіряла раптовим цільовим урядовим втручанням і сприймала клінічне облаштування центрів вакцинації як схоже на в'язницю. Вона робить висновок, що зміна думок вимагає емпатичного слухання задля розуміння індивідуальних поглядів та конкретних причин, що за ними стоять, зазначаючи, що мовні моделі часто успішно борються з теоріями змови саме тому, що можуть опрацьовувати ці конкретні глибинні перспективи й реагувати на них.

Роль штучного інтелекту в боротьбі з теоріями змови

Фрай пояснює, що атаки на теорії змови за допомогою універсальних відповідей змушують людей закриватися в собі. Натомість мовні моделі працюють через постановку запитань, а не через суперечки, що дозволяє людям самим змінювати свою думку. Вона посилається на дослідження, де прохання до людей пояснити, як працює туалет, змусило їх усвідомити брак власних знань і засумніватися у своїх категоричних думках щодо політичних тем на кшталт Obamacare. Вона зазначає, що уточнювальні запитання допомагають знаходити відповіді, а не принижувати людей. Дивлячись у майбутнє штучного інтелекту, інформація матиме вищу ймовірнісну точність, що вимагатиме оцінювання того, коли системи є правильними, а коли — ні.

Штучний інтелект у медицині та баєсове мислення

Фрай обговорює дослідження, які свідчать про те, що штучний інтелект здатен перевершити лікарів, і зазначає, що медики ще не навчилися належним чином користуватися цими інструментами або визначати, коли вони є надійними. Вона пояснює, що людям доведеться опанувати евристику, порівнюючи це зі своїм власним методом перевірки можливостей штучного інтелекту за допомогою конкретних дрібниць, наприклад, питання про те, чи створив Рід Гоффман (Reid Hoffman) підробку гри Settlers of Catan. Коли система вигадала фальшиву відповідь у Вікіпедії про гру під назвою Secret Hitler, це підкреслило небезпеку граничних випадків, оскільки штучний інтелект намагається бути корисним, не усвідомлюючи, що помилки коштують дорого. Вона хвалить AlphaFold за те, що він надає оцінки впевненості разом із прогнозами, дозволяючи користувачам бачити, коли модель стикається з труднощами. Застосування підказки баєсівського мислення до медичних запитів допомагає штучному інтелекту видавати структуровані списки з оцінкою ймовірності, а не сирі припущення.

Переходячи до бліц-запитань, Фрай обирає книгу When We Cease to Understand the World як джерело оптимізму, зазначаючи, що вона передає захоплення від перебування на межі нових знань. На запитання про те, яке питання вона хотіла б чути частіше, вона жартує, що хотіла б, аби її запитали, чи хоче вона ще один напою, і розповідає про дитину, яка запитала, чи хочуть вони бути там. Говорячи про прогрес поза межами своєї галузі, вона знаходить натхнення в біологічних науках, зазначаючи, що дослідники нарешті здатні витягти робочі моделі з незбагненних складнощів біології.

Бліц-запитання та оптимізм щодо майбутнього

Фрай ділиться баченням надзвичайного оптимізму на найближчі п'ятнадцять років, припускаючи, що людська історія переважно була історією про дефіцит і розподілені ресурси. Вона вірить, що наука може зробити колосальну різницю завдяки проривам у знесоленні води, ядерній енергетиці та проєктуванні акумуляторів, що може повністю змінити все. Коли вона коротко пропонує дотягнутися до зірок, вона сміється і вирішує залишитися на Землі, хоча жартома доповнює це дотягуванням до зірок за допомогою ядерного синтезу.

Згадується

Люди

Gödel von Neumann Demis Hassabis Stephen Fry

Companies

Character.AI Wonder Media Network