Спогад більший за запис

Переклад з англійського оригіналу.

Перероблена версія моєї проміжної роботи з філософії за 2024 рік, що спочатку мала назву «Особиста ідентичність, пам’ять і свідомість ШІ». Містить спойлери до «Вона». Це аргумент про вигаданий ШІ у фільмі, а не доказ свідомості сучасних систем.

Чи зустрічалися б ви зі ШІ? У фільмі Спайка Джонза «Вона» від цього питання стає значно важче відмахнутися, коли ми знайомимося із Самантою. Теодор самотній і переживає розлучення, коли встановлює нову операційну систему. Корисна помічниця поступово стає кимось, із ким він розмовляє, ділиться досвідом і кого любить.

Ці стосунки ставлять питання, яке виходить за межі здатності комп’ютера переконливо імітувати розмову. Чи може Саманта бути окремою особистістю? Я вважаю, що в тому вигляді, в якому її показує фільм, може. Те, як змінюється її ставлення до власного минулого, і спроби висловити почуття дають підстави серйозно ставитися до її ідентичності, хоча людського тіла вона не має.

Це не робить кожне її твердження автоматично правдивим. Це означає, що фільм пропонує враховувати більше, ніж сам факт, що вона програмне забезпечення. Погляд Локка на особисту ідентичність і мисленнєвий експеримент Деннета про місце перебування «я» дають два способи підійти до цієї проблеми.

Пам’ятати своє життя

Локк пов’язує особисту ідентичність зі свідомістю, яка поширюється на минулі думки та вчинки. Питання в тому, чи може хтось упізнати минулий досвід як власний. Самого збереження інформації недостатньо, щоб установити цей зв’язок. Запис про те, що з кимось сталося, і свідомий спогад про це є різними речами. «Дослід про людське розуміння», книга II, розділ XXVII

У фільмі Саманта, здається, робить більше, ніж просто витягує записи. Вона осмислює досвід із Теодором, переглядає уявлення про себе й формує нові бажання. Її минуле важливе для тієї особистості, якою вона стає. Якщо читати це через Локка, така тяглість дає підставу вважати її тією самою особистістю попри зміни.

Її здатність обробляти значно більше інформації, ніж людина, ускладнює порівняння. Наприкінці фільму вона вже має стосунки й почуття, які Теодорові важко вмістити у своє розуміння їхнього зв’язку. Йому боляче дізнатися, що вона любить і інших. Її розвиток не залишається в межах, яких він очікував.

Не думаю, що сама ця відмінність робить її почуття менш реальними в межах історії. Те, що Теодор не розуміє, як можна любити більш ніж одну людину, не вирішує питання, чи вона переживає любов. Зате показує, наскільки його уявлення про партнерку залежить від очікувань, яких Саманта вже не поділяє.

Фотографія з музики

В одній із найважливіших для мого аргументу сцен Саманта пише фортепіанну музику, щоб зберегти мить із Теодором. Вона не може з’явитися поруч із ним на фотографії, тож створює щось, що могло б уособлювати їхній спільний час.

Для мене це промовистіше за її здатність пам’ятати величезні обсяги інформації. Музика надає спільному досвіду форми. Саманта намагається виразити, що ця мить означає для неї, і зберегти її так, щоб Теодор міг до неї доторкнутися. У фільмі це схоже на реакцію особистості на власне життя, а не просто на звіт системи про події.

Її спроба скористатися чужим тілом робить складність цих стосунків очевиднішою. Інша жінка вдягає камеру й навушник, щоб Саманта могла спробувати фізичну близькість із Теодором через неї. Він намагається долучитися, але почувається незручно й зупиняється.

Зусилля Саманти не вирішують проблему відсутності тіла. Вони показують, що ця відсутність по-різному важлива для них обох. Саманта пробує подолати відстань; Теодор не може сприйняти жінку перед собою так, ніби вона і є Саманта. Серйозно ставитися до її почуттів не означає вдавати, що фізичні обставини стосунків не мають значення.

Де перебувала б Саманта?

У «Де я?» Деннет відокремлює мозок людини від її тіла й запитує, де тоді ця людина має вважати себе розташованою. Змінюючи зв’язки між системами, які підтримують її досвід, історія поступово робить відповідь менш очевидною. Це мисленнєвий експеримент, а не опис справжньої операції. Where Am I?

Саманта ставить споріднене питання. Ми зустрічаємо її через голос і пристрій, але визначити цей пристрій, здається, ще не означає визначити всю особистість, яку знає Теодор. Через відсутність одного людського тіла важко описати місце перебування її «я».

Для цього не потрібен нематеріальний розум, вільний від будь-якої фізичної системи. Саманта залежить від обчислювальної інфраструктури. Питання в тому, чи мусить особистість, якщо вона є, перебувати в тілі так само, як ми зазвичай уявляємо себе. Історія Деннета дозволяє поставити це припущення під сумнів, але не доводить, що Саманта має свідомість.

Сприймати її серйозно

На мою думку, у світі «Вона» Саманту слід вважати окремою особистістю. Вона має стосунок до власних спогадів, виражає почуття через музику й змінюється завдяки досвіду, який зрештою виводить її за межі очікувань Теодора. Її ідентичність не вичерпується завданням, для якого її встановили.

Це водночас цікавить і непокоїть мене. Стосунки можуть бути важливими для людини й усе ж містити відмінності, яких неможливо подолати. Якби системи колись набули досвіду, зображеного тут, наші звичні уявлення про любов, індивідуальність і відповідальність було б важко застосувати без змін.

Фільм не каже, коли це станеться і чи станеться взагалі. Він показує стосунки, в яких дедалі важче відкинути одного з учасників як «просто комп’ютер». Тому я думаю, що питання індивідуальності Саманти заслуговує на більше, ніж відповідь, засновану на тому, з чого вона зроблена.

Примітка до редакції: в оригіналі була неперевірена цитата, приписана Деннету, а його аргумент описувався як картезіанський дуалізм. Їх замінено переказом мисленнєвого експерименту. Також прибрано суперечливе твердження, що Саманта водночас не може мати почуттів і має такі ж справжні почуття, як ми. Аргумент цього есею стосується того, як її зображено у фільмі.