Даниел Денет: Защо цивилизацията е по-крехка, отколкото сме предполагали

Преди неотдавнашната си смърт влиятелният философ Даниел Денет разказва пред Би Би Си за житейския си стремеж да разбере човешкия опит - и защо вижда нови опасности от изкуствения интелект.

Философът Даниел Денет, който почина на 82-годишна възраст на 19 април, беше сред най-острите и пророчески умове през последния половин век. През целия си живот той се осмеляваше да се занимава с някои от най-големите въпроси, свързани с човешкия ум и съзнание. В кариерата си той публикува над дузина книги, има значителен принос в области, вариращи от когнитивната наука и философията на ума до еволюционната теория, и се превръща в пламенен защитник на рационалността и скептицизма.

През декември 2023 г. разговарях с него в продължение на няколко часа за неотдавнашната му мемоарна книга I've Been Thinking, както и за живота и работата му. Той все още беше страстно ангажиран с въпросите за истината, познанието и технологичните възможности, които за пръв път го завладяват като докторант в Оксфорд през 60-те години на ХХ век - и все още беше готов да се бие в служба на строгата мисъл.

По-специално разговорът ни беше посветен на сериозните рискове, свързани с изкуствения интелект. Той не предупреждаваше за превземане на властта от някакъв свръхинтелигент, а за заплаха, която според него все пак може да бъде екзистенциална за цивилизацията и се корени в уязвимостта на човешката природа.

"Ако превърнем тази прекрасна технология за познание в оръжие за дезинформация", каза ми той, "ще имаме сериозни проблеми."

Защо?

"Защото няма да знаем какво знаем, няма да знаем на кого да се доверим и няма да знаем дали сме информирани или дезинформирани. Можем да станем или параноични и свръхскептични, или просто апатични и невъзмутими. И двата пътя са много опасни. И те са пред нас."

Философия на научната фантастика

За да разберем аргументацията на Денет за ИИ - и това, което го прави толкова дълбок и оригинален мислител - си струва да погледнем назад към един от най-необичайните му академични трудове. През 1978 г. той публикува "Къде съм аз?", която е под формата на научнофантастичен разказ, в който собственият му мозък е поставен във вана.

"Преди няколко години - започва разказът, - към мен се обърнаха служители на Пентагона, които ме помолиха да се запиша доброволец за една изключително опасна и секретна мисия." Благодарение на злополука по време на секретен изследователски проект, сондажно устройство, носещо атомна бойна глава, беше заседнало на километър под земята, под Тълса, Оклахома. Трябваше да им помогне да го извадят. По-точно, имаха нужда от тялото му. За да се избегне вредното за невроните лъчение, излъчвано от устройството (правдоподобността не е задължителна характеристика на философската научна фантастика), мозъкът му ще бъде хирургически отстранен и свързан с радиоприемници към тялото му. След това той би могъл да го контролира дистанционно, без да рискува облъчване.

Денет си представя сценарий, в който тялото и мозъкът му са разделени - което поставя загадка за това "къде" се намира

Въпросът, който стои зад възхитителната фантазия на Денет, е следният: ако приемем, че процедурата е успешна, а мозъкът му продължава да контролира тялото му и да получава входящи данни чрез сетивните си органи, къде би бил Даниел Денет? В историята той си представя как тялото му влиза в стаята, в която мозъкът му плува в подсилена вана, след което сяда и го гледа.

Сцената е пресъздадена за телевизията в документален филм от 1988 г. на холандския режисьор Пиет Хоендердос, в който Денет играе себе си (с удоволствие). Със сигурност това е един от малкото случаи на академична статия, която получава такава адаптация. "Е, ето ме тук, седя на сгъваем стол и гледам през парче плоско стъкло собствения си мозък", заявява смаяният Денет.

"Но почакайте... не трябваше ли да си помисля:

"Ето ме, окачен в бълбукаща течност, в която се взирам със собствените си очи"?"

Втората от тези мисли се оказва още по-трудна за поддържане от първата. А мисълта, която следва от това, е, че е невъзможно някога да бъдем сигурни къде се намира "аз" - или дори какво означава думата "тук" - единствено въз основа на личния опит.

Противно на многовековната философска традиция, предлага Денет, ние нямаме специални познания за работата на собствения си ум.

"Откъде знам къде съм имал предвид "тук", когато съм мислил "тук"?" - продължава той.

"Мога ли да мисля, че съм имал предвид едно място, а всъщност да съм имал предвид друго?" Независимо от това какво вярва той за собственото си местоположение или умствено състояние, тези вярвания не предлагат специална гаранция за собствената си точност. Важен е външният, а не вътрешният поглед върху събитията: фактите на земята, а не как тази земя изглежда на човека, който стои на нея (или плува в съд, според случая).

Противно на многовековната философска традиция, предлага той, ние нямаме никакви специални познания за работата на собствения си ум - а усещането, че нашето "аз" е единна, последователна същност, е просто чудесна, развита илюзия.

Както той казва в "Мислех си", "има малко неща, които мога да знам със сигурност от самостоятелно интроспектиране на собствения ми ум". Но има какво да се научи от "научното изучаване на умовете на другите" - стига това да е свързано със строг скептицизъм дори по отношение на най-правдоподобните интуиции. Истината няма да ви освободи от когнитивните ограничения, защото такова нещо не е възможно. Но тя може, ако сте внимателни, да ви научи на видовете свобода, които си струва да желаете.

По принцип изкуственият интелект може да създава цифрови факсимилета на хора 

Това ни връща към една технология, която е способна да преобърне сценария, залегнал в основата на "Къде съм аз?": генеративният изкуствен интелект. Той е способен да създаде убедителни човешки симулатори от трилиони байтове данни и по този начин да преобърне вековни предположения за истината, идентичността и споделения ни опит в реалността.

Например, ако разполагаме само с 30 секунди видео със средно качество, свободно достъпните услуги за изкуствен интелект вече могат да създадат изкуствена версия на всеки говорещ - или на напълно измислен човек - и да го накарат да каже каквото и да било. Лидери като индийския министър-председател Нарендра Моди вече използват инструменти на изкуствения интелект, за да създават свои версии, говорещи свободно на регионални езици, за да печелят гласове, а подобни подходи се прилагат в Индонезия и Пакистан.

През юли 2023 г. груби дълбоко фалшифицирани видеоклипове на жени лидери на опозицията в Бангладеш, за които се твърди, че ги показват по бикини и в плувни басейни, бяха бързо опровергани, но все пак бяха широко разпространени. И още много други неща ни очакват. Тъй като 2024 г. ще бъде най-голямата година за избори в историята (не по-малко от половината население на света ще посети различни избирателни секции), никога не е било по-лесно да се манипулира информацията, която влияе върху вземането на решения от хората, или да се подкопаят нашите ежедневни интуиции и наклонности.

Трябва да се срамуваме, а не да се гордеем, когато направим своя ИИ по-човечен - Даниел Денет

Прозорливо, Денет си представя този сценарий преди десетилетия. В научнофантастичната история в документалния филм на Хоендердос учените създават един допълнителен Денет: наред с оригиналния мозък в казан, умът му е дублиран като "цифров близнак". Двамата се състезават да получат контрол над тялото му. При този сценарий въпросът дали някой действително е някъде - или е казал или направил нещо, или дори съществува - става още по-фрапантен.

За да видите колко близо вече е реалността до фантастиката, разгледайте случая с Luciano Floridi Bot - управлявана от изкуствен интелект имитация на друг водещ философ на технологиите, "създадена да отговаря на въпроси и да пише текстове, имитиращи начина на мислене и стила на писане на Флориди". Това е едновременно завладяващ педагогически инструмент и пример за това как в епохата на ИИ нашите идеи и нашата идентичност могат буквално да започнат да живеят свой собствен живот.

За Денет имаше нещо обезпокоително в самия факт на нашата мания по изкуствен интелект, приличащ на човешки. Макар че пълните факсимилета на човешкия ум може и да не са неизбежни, начинът, по който използваме ИИ, за да се представяме за хора, вече ни е поставил на опасна траектория, каза ми той. Той нарече такива ИИ "фалшиви хора" и ми каза, че масовото въвеждане на такива същества представлява "злодеяние от най-лош вид": форма на "социален вандализъм", който трябва да бъде разрешен със закон. Защо? Защото, ако могат да се създават убедителни цифрови изображения на хора по прищявка, цялата дейност по колективна оценка на твърденията, опита и действията на други хора е изложена на риск - да не говорим за съществена социална инфраструктура като договори, задължения и последствия. Оттук и нуждата от законови забрани - аргумент, който той подробно излага в статия за The Atlantic от май 2023 г.

"Няма да е перфектно - каза ми той, - но ще помогне, ако успеем да направим така, че да е противозаконно да се правят фалшиви хора. Можем да въведем строги наказания за фалшифициране на хора, както за фалшифициране на пари... Трябва да направим така, че да е знак на срам, а не на гордост, когато направите своя ИИ по-човечен."

Денет предупреди, че захранваните с ИИ "фалшиви хора" представляват опасност от социален вандализъм

Има ирония във факта, че Денет прекарва десетилетия в спорове срещу онези, които се опитват да изградят някаква неуловима категория "човечност", която може да бъде притежавана само от нашите умове. Дълбоко убеден материалист, той неведнъж е изтъквал, че, както се изразява в изследването си на еволюционната теория от 1995 г. "Опасната идея на Дарвин", "всички постижения на човешката култура - език, изкуство, религия, етика, самата наука - са артефакти... на същия фундаментален процес, който е развил бактериите, бозайниците и Хомо сапиенс. Не съществува специално създаване на езика и нито изкуството, нито религията имат буквално божествено вдъхновение".

Според него появата на човечеството от немислеща материя е чудесна, но не и чудотворна. Дори толкова забележителни умове като нашия в крайна сметка са продукт на асортимент от неразбиращи модули, които сами по себе си са съставени от по-груби компоненти, свързани в непрекъсната последователност с първите форми на живот.

От това следва, че по принцип нищо не пречи на алгоритмите на изкуствения интелект да се доближат до нашите собствени възможности или да ги надхвърлят, както и на хората да увеличават и преработват съзнанието си с помощта на изкуствени средства. Всъщност някои от най-важните ранни работи на Денет са свързани със защитата на силата и потенциала на изчисленията срещу онези, които, подобно на философа Джон Сърл, твърдят, че простото изчисление никога не може да породи явления като съзнанието. За Денет няма нищо "просто" в изчисленията или алгоритмичните процеси: това винаги е било само въпрос на мащаб и сложност.

В този смисъл постиженията на съвременните изкуствени интелекти - от лингвистичните им умения и владеенето на игри като шах и Го до способността им да преминават успешно юридически и медицински изпити - са постоянно потвърждение на настояването на Денет, че компетентността на човешко ниво може да възникне от напълно неразбираеми процеси (без да споменаваме, че в нашия случай това се е случило).

Човешкият дискурс може да бъде подготвен да бъде манипулиран от агенти на изкуствен интелект

По време на разговора ни обаче той се постара да подчертае и пропастта между настоящите изчислителни архитектури и аналоговата сложност на човека. Опасно е да се обсебва темата дали ИИ ще постигне "общ интелект", с цялата когнитивна гъвкавост на човека, да не говорим за нещо по-голямо. Той отбеляза, че много преди да се случи нещо подобно, ще трябва да се справим с появата на "изключително манипулативни" автономни агенти - и те ще представляват много по-голяма заплаха от хипотетичните свръхинтелигентности ("забравете за това!"). Защо? Защото, както социалните медии се оказаха еволюционен парник за съдържание, способно да се възползва от човешките уязвимости, същата динамика благоприятства както съдържанието, генерирано от ИИ, така и ИИ, способни да използват примамлива комбинация от убеждаване, съблазняване, шокиране и ласкателство.

От безупречно бляскави изкуствени инфлуенсъри до дълбоко фалшива порнография, от безкрайно съпричастни спътници до романтични измами - човешките любови и копнежи са благодатно поле за усъвършенстване на манипулацията. Възможно е (все още) да не сме мозъци в каци. Но това, което виждаме, в което вярваме, към което принадлежим и което правим, все повече се преплита с безброй информационни системи; и много от тях са по-умели в предоставянето на убеждение и правдоподобност, отколкото на истина.

Изкуствените интелекти, които се възпроизвеждат най-добре, ще бъдат тези, които са най-умелите манипулатори на нас, човешките събеседници - Даниел Денет

Нищо от това не означава, че отричаме силата и потенциала на технологии като ИИ или безбройните начини, по които те могат да увеличат обхвата и самопознанието на човечеството. Но целта е да се докаже, че, както казва Денет, ИИ вероятно ще "еволюират, за да се възпроизвеждат. И тези, които се възпроизвеждат най-добре, ще бъдат тези, които са най-умелите манипулатори на нас, човешките събеседници. Скучните ще отхвърлим, а тези, които задържат вниманието ни, ще разпространим. Всичко това ще се случи без каквото и да било намерение. Това ще бъде естественият подбор на софтуера."

Не е необходим нито човешки, нито машинен генерален план, за да се развият вредни сценарии. Както се твърди в книгата на Денет от 2017 г. "От бактерия до Бах", "след като инфраструктурата за култура е проектирана и инсталирана [т.е. еволюирала е в човешките умове]... възможността за паразитни меми, използващи тази инфраструктура, е повече или по-малко гарантирана". От гледна точка на еволюцията нашите умове не са устройства, фино настроени за разграничаване на истината от лъжата. Ние сме пристрастни, страстни, племенни същества: социални животни, свързани с връзки на любов и лоялност, които едновременно определят нашата човечност и ни правят болезнено уязвими.

Какво трябва да се направи? За щастие, друга отличителна черта на човешката мисъл е способността ни да размишляваме точно върху тези ограничения: да поправяме колективно и постепенно слепите петна на личното възприятие. "Това, което искаш - каза ми Денет, - е мисленето ти да се определя от истината за това, което е навън. Искаш да бъдеш принуден от добрите доказателства, които съществуват за това какъв е светът. Но също така искате да имате възможност да преосмисляте, да преосмисляте и да преосмисляте още повече: вашите перспективи, вашите проекти, вашите цели. Искате да сте система от по-висш порядък, която обмисля средствата, целите и задачите."

Препечатано от bbc.com

Автор: Tom Chatfield