08:24 | 21.11.24

17-11-2017 20-11-2018

Доц. Мариана Тодорова: Изкуственият интелект би могъл да ни се представи като Бог

Можем да хакнем нашата цивилизация и скоро да се събудим в свят, в който не разпознаваме себе си, казва футурологът, който вече познава бъдещето

Колаж: Траяна Генчева, Dir.bg

Доц. Мариана Тодорова: Изкуственият интелект би могъл да ни се представи като Бог

09:56 | 11 юни 2024 | Автор : Галина Чолакова 25 4186 Колаж: Траяна Генчева, Dir.bg

Вече над 25 години Dir.bg е медията, която представя по най-вдъхновяващия и красноречив начин, но и с креативен почерк онези, които създават, проправят брод и изграждат картата на бъдещето в обществения ни живот, политиката, бизнеса, изкуството, науката, иновациите - онези мъже и жени, чиито опит и път са не просто стимул, но трансформират света ни, отваряйки прозорец към различното, революционното дори.

Истории от бъдещето

Сега дръзваме да създадем капсула на времето с поредицата ни "Истории от бъдещето", в която повече от 20 изключителни мъже и жени ще разкрият пред Dir.bg личния, професионалния си, творчески път. Истории, които прозират в бъдещето и така променят настоящето с всяко свое действие. Прекрачете с нас в пътешествието, което разкрива смисъл, дава надежда и ражда бъдеще.

Днес водим разговор с доц. Мариана Тодорова за онова обозримо бъдеще, в което може и да не успеем да зададем въпроси, да нямаме възможност да разберем някои отговори, и да бъдем никои и ничии. Безименни и безсъщностни, възможно ли е? Отговорът на "въпроса за живота, вселената и всичко останало" вече не е 42(по Дъглас Адамс) - всъщност няма никакъв отговор, защото вече не питаме за смисъла, а чакаме изкуственият интелект да ни "благослови" с мощта на готовите конструкции, дори с приятелство, да стане месията.

До 25 юни доц. Тодорова ще бъде специален гост на международна конференция в Университета по информационни науки и технологии в Нанджин, Китай, където учени от различни страни ще обсъждат именно бъдещето на човечеството в ерата на изкуствения интелект във всички сфери, и възможността генералният изкуствен интелект да ни се яви като Бог. Миналата година бе и сред лекторите на конференцията Dir.bg 25 ONLINE, когато представи някои от теориите за развитието на технологиите.

А ние поставяме началото на една тема, в която, докато все още питаме и се съмняваме, ще ни превръща все повече в хора, които се нуждаят от общество.

Коя е доц. Мариана Тодорова?

Тя е футуролог, доцент в Института по философия и социология към БАН. Визионер, стратег и автор на книги. Доцент Тодорова е създала нова методология за научна прогноза чрез комбиниране на контрафактичен анализ и изграждане на сценарии.

Има специализации по лидерство в Харвардския университет, Училището по управление на Джон Кенеди, в международната програма за лидерство (IVLP) от Държавния департамент на САЩ и в Китайската академия за управление. През 2019 г. Тодорова е съавтор на книга: "Future studies and counterfactual analysis. Seeds of the future", заедно с известния американски футурист Теодор Гордън (идеолог на 3-ти етап nа проект" Аполо "за кацане на Луната. През 2020 г. тя издава своя собствена книга на български език:" Изкуствен интелект. Кратка история на развитието и етични аспекти по темата ".

Снимка: Ангел Юруков

- Доцент Тодорова, правим това интервю в библиотеката на БАН, мястото, което пази знанието, историята, паметта ни... Каква памет ще има човекът на бъдещето за настоящето ни, какво ще пише в книга, издадена през 2024 година?

- Провокативен въпрос и аз ви благодаря за него. Човекът от бъдещето може за да знае всичко за настоящето, а може да не знае нищо. Това ще бъде негов избор, защото знанието и информацията ще се усвояват по съвсем различен начин. Знаете, че Илон Мъск вече осъществи проекта за комуникация между мозък и изкуствен интелект. Всъщност в началото идеята за тази комуникация е да помогне на хора, които са парализирани да общуват с външния свят, други да прогледнат отново. Но концепцията в по-далечно бъдеще е ние да имаме цялото налично човешко знание, тази колективна мъдрост, която изкуственият интелект ще ни предава.

Ако това доскоро правеше Google, а сега ChatGPT3, ChatGPT4, всички големи езикови модели, след няколко години това би било възможно. Мъск всъщност говори за концепцията за интернет на мозъците. С опосредяването на изкуствения интелект всички ние да можем да обменяме знания. Разбира се, всичко това е утопично. И аз започвам по този провокативен начин разговора ни, защото може никога да не се случи, тъй като ние трябва да преодолеем Втория закон на термодинамиката, за да осъществим комуникация между мозъка, който е белтъчна структура и някакво устройство, което е силициево в случая това на Neuralink.

Вие виждате, че всичко, дори като медийно съдържание, става изключително персонализирано. Дори Netflix ще ни предлага филми, според това, което сме търсили, според моментното настроение и нагласа. В този смисъл и знанието ни ще бъде персонализирано. Всеки ще избира какво да знае за миналото, за настоящето, за бъдещето. И след 50 години човекът на бъдещето може да има цялото налично знание на света, а може да не пожелае нищо да научи.

Ако трябва да оценим все пак каква е нашата епоха и с какво най-вероято ще запомнят 2024 година - то ще бъде с това, че все по-серизно усещаме климатичните промени, че преживяваме един анахронизъм, в който реабилитираме войната и ефектът на доминото сякаш работи ефективно, защото това не свърши с войната между Украйна и Русия. "Хамас" и Израел също разпалват регионален конфликт. Вероятно това може да даде искрица за много други райони и замразени регионални конфликти. И нещо, което Ювал Харари (историк и философ, смятан за една от най-влиятелните личности на планетата, ) заявява все по- ясно и категорично е, че скоро можем да се събудим в свят, в който не разпознаваме себе си, литературата, метафорите, историята, защото цялото съдържание, което имаме като знание и информация в интернет пространството, се пренаписва с всички задания, които даваме на изкуствения интелект...

- Тоест, ние го учим как да "унищожи" идеята ни за света, историята ни.

- Той я реинтерпретира, всяко едно запитване, което направим, във всяка една област, остава. И в един момент тази информация, това превъртане, преработване на знание, което ще се случи чрез изкуствения интелект, ще доминира, чисто количествено.

Ежедневно милиони хора имат запитвания към тези езикови или генеративни модели. И вече има доста проучвания, че на хората повече им харесва информацията, поднесена и преработена от изкуствен интелект, тъй като подредбата е по-ясна, по-разбираема.

Снимка: Петър Йорданов

Това е големият риск - че можем да хакнем нашата цивилизация. Че всичко може да бъде прекрасно обяснено, но смляно, стерилизирано, изчистено от метафорите. Ако вземем една книга на Хайдегер, или на Хосе Ортега-и-Гасет ... това са цели вселени, ключ към разбиране на света, съвсем различен подход и начин...това изкуственият интелект ще унифицира....

Но колкото и съвършен да е изкуственият интелект, да съчетава цялото налично знание, и дори вече да е по-креативен от нас, той не разбира какво прави. И тук е големият парадокс. Той може да обясни теорията на относителността на Айнщайн на тригодишно дете или да я съчетае с философска текст. Но когато му зададете обикновена логическа задача като тази например - имате три начина да изберете смъртта си - да попаднете в стая с гърмящи змии, такава с гладни крокодили, или лъвове, които не са се хранили две години. Той няма да улови закачката, че тези лъвове най-вероятно са мъртви и най-добре е да отиде в тази стая. Той не е съзнателен...

- И това вероятно ни спасява...лекари, психиатри, твърдят, че до 2050 всеки четвърти ще страда от психично заболяване. Менталното ни здраве вече е под заплаха - на какво обаче - на изкуствен интелект или на собствената ни човешка природа

- Сериозно е застрашено по няколко направления. Това е изключително важна тема. Застрашени сме не само по линията X, Y и Z. Поколението на нашите деца и малко по-възрастните пребивава изцяло в интернет, социалните медии. Получава информация главно от там, не от официални източници. Всичко, което тече там като наратив се приема за чиста истина, а това изкривява възприятието на информация, но също така създава доста клишета и модели за благополучие и успешност...

- Големият грях на позитивната психология...

- Да, и това оказва натиск върху хората да отговарят на определено клише как да изглеждат, как да говорят, какво да харесват. И когато ние потискаме себеизразяването си, това непременно води до ментално напрежение. Наскоро имаше голямо проучване за САЩ, но подозирам, че се отнася за целия свят, че мъжете също са подложени на голям ментален натиск и вече се появяват различни заболявания. От тях се очаква те да бъдат успешни, да се реализират значително по-бързо, за да създадат семейство, а така те пренебрегват социална среда, контакти, от това страда приятелството, нямат клубове по интереси, хоби... Те са изключително самотни, 15 процента от мъжете в САЩ казват, че като имат проблем, няма на кого да се обадят и споделят.

Снимка: Петър Йорданов

- Мислите ли, че точно този феномен и натиск роди "походът" на изкуствения интелект. Ние намерихме там потвърждение, приятел... не изисква от нас, ние му задаваме параметри, те в известна степен удовлетворяват нас.

- До някаква степен - да. Тук отново можем да потвърдим с проучвания в тази област. По-голямата част от запитванията към тези езикови модели, повече от 50 процента, са за личностно развитие и взаимоотношения. Не само приятелски, но романтични, любовни. Те касаят много личностното ни преживяване и себеусещане. Правила съм експерименти с ChatGPT4, който тълкува сънища. И той го прави доста убедително - съчетава теориите на Фройд, на Юнг, на Адлер, и това е полезно. Но все пак това е една машина, тя няма съзнание и трудно би приложила индивидуалния подход към нас.

Но вие сте права, самите социални медии започнаха с изкривяването на това как възприемаме света. И друг тип физиологични заболявания, които обаче накърняват менталното здраве, също са продиктувани от това.

Забелязали сте, че децата ни постоянно скролват - защото бързата смяна на стимулите кара мозъка да отделя допамин и това компрометира техният фокус и когнитивно търпение, да направят усилие да задържат вниманието си повече от 8 секунди - затова те се информират от заглавия, не са склонни да прочетат една статия или книга, за да се запознаят с една тема в дълбочина. Това в психологията, в когнитивните науки, се нарича евристика. За всичко търсим краткия път, лесните решения. Затова и се появиха много съвети, книги, с лесни формули за успех, но те невинаги са приложими - в личното щастие, в кариерно развитие... всичко това предпоставя да сме зависими от изкуствения интелект.

- Вече не си позволяваме да грешим... няма го "твърде човешкото" по Ницше, но пък има твърде много технологии и конструкции, обещаващи щастливо бъдеще

- От една страна грешката беше поощрена преди няколко години в изграждането на тази нова предприемаческа култура, стартъпи, включително изграждането на такива авторитетни фигури като Мъск, Зукърбърг, Сам Алтман, Казват, че е ценен опит, не бива да се приема като поражение, и това се популяризира, достигна и до България.

От друга страна хората се страхуват да носят отговорност, а грешката е свързана с поемането на отговорност. И ние виждаме как се стигна до разминаването на тези процеси, в носенето на отговорност. Всеки се крие в колективния орган, в който участва. Тези процеси са особено изразени в политиката. В крайна сметка това компрометира лидерството.

- Вие имате досег с политическата среда. Кажете ми - какво се случва сега? Нямаме лидери и ако хипотетично един изкуствен интелект поеме управлението за ден, какво би било първото му решение?

- Ние имаме лидерство, но може би това лидерство не ни харесва. Много съм разсъждавала по този въпрос - какво точно компрометира лидерството? И защо в един от глобалните доклади, които се предоставят на всеки новоизбран американски президент, разработвани от националната агенция за разследване в САЩ, в топ 3 винаги е това, че все по-трудно ще се управлява. Политически става невъзможно да се управлява, защото демокрацията е в криза, изчерпа своите механизми, а ние нямаме нищо по-добро...

- Колко реална заплаха е изкуственият интелект, кой би бил най-апокалиптичният вариант за бъдещето ни? Наистина ли е толкова реална опасността от използването на ядрено оръжие? Защо тази заплаха, страхът, отново се появи, казвате: "Взриви се глобалният правен ред"

- Все повече говорим, а всъщност няма логика, защото веднага след като Опенхаймер и Айнщайн осъзнават какво откритие са направили, изобретяват Часовникът на Страшния съд, именно с целта да алармират обществото, че това е изключително опасно и след като е факт, то може да се използва за взаимно удържане. А ние виждаме, че то не се използва за това, а за заплашване. Нещо, което може да доведе до употреба, това не е заплаха и ирационалност, а за съжаление продукт на силно его, което отделни политици имат, да се трупа политически актив..ние допуснахме да се прокара публичният образ, поведението, а не съдържанието, да определят каква е политиката. Това започна настъпателно с лидери като Берлускони, в САЩ Тръмп затвърди този образ.

На тази крайно либерализирана среда противодейства един свръх консервативен отговор, и ние нямаме само едно махало, за да търсим неговия баланс, а в момента имаме две махала, едното е на крайно неолибералното, а другото на крайното неоконсервативното, и трябва да търсим пресечната точка между тях.

Трябва да разберем хората, които реагират остро срещу ЛГБТ доктрина. Този краен национализъм ние не можем да го възприемем, но трябва да потърсим диалог между едната и другата доктрина, защото обществата са крайно поляризирани по темите. А те са такива, защото политическото е в криза и няма идеология, ние не говорим за ценностите на лявото и на дясното, не говорими, за това, че екологията и правата на ЛГБТ общности и хората изобщо, са изконно леви теми. Взимаме тези теми на въоръжение и поляризираме хората. Може би политиката се нуждае от връщане малко назад във времето, към големите идеи, към тези проекти, които са реабилитирали великото общество, доброто общество, икономиката, защото този разпад, това свръхфрагментизиране е вредно, затова виждаме и тук това усещане.

Снимка: Петър Йорданов

- Изчезващ вид ли сме? Възможно ли е да се превърнем в обслужващ персонал на изкуствения интелект. Говорите за фрагментиране, за липса на лидерство, всичко това ни поставя в позицията да легитимираме някой като наш водач, нямаме такъв, но се появява "удобният" изкуствен интелект?

Има такива антиутопии, научната фантастика описва и такива утопии дори, защото има хора, които са технологични абсолютисти, детерминисти, те вярват, че технологията изцяло ще ни служи, че изкуственият интелект винаги ще взима свръхрационалните решения, ще намира баланс на най-малкото общо кратно между обществените интереси. Има описани такива утопии, в която една свръхразумна машина разпределя, дистрибутира права, включително материални блага, но до момента, в който ние сме движещият фактор, ние сме осъзнаващите, и все още го няма генералният изкуствен интелект, е по трудно.

Не вярвам, че сме изчезващ вид, защото винаги, за добро или лошо, в нашия еволюционен ход сме се адаптирали към всичко. По-скоро, това е прогнозата и на много мои колеги- ще трябва да преживеем някакъв катаклизъм.

-Природен, антропологичен?

- Антропологичен с намесата на изкуствен интелект.

- Какъв е най-лошият сценарий?

- Най-лошият сценарий, и той се обсъжда в Пентагона от 2013 година, е да се даде достъп на изкуствен интелект до ядрени оръжия, защото представете си, че в едно недалечно бъдеще две супер сили воюват, ако едната е дала достъп до своите конвенционални оръжия на изкуствен интелект, той прави анализ на бойното поле, и взима решение за секунди. Наскоро компанията "Палантир" демонстрира какво може изкуственият интелект. Беше му даден достъп до сателити, до критическа инфраструктура, и му бе казано, че има едно място с вражески субекти, разбирайте Русия, а задачата към изкуствения интелект бе да засече тази локация, да анализира какви оръжия има там, и да даде сценарий как да бъдат неутрализирани. Той предложи с колко ракети да бъде неутрализирано мястото. Ние сме все по-близо до подобен сценарий и някой да се изкуши да използва такава възможност.

- Но все пак копчето натиска човекът, нали?

- Все още, да. Но вече виждаме дронове, които и Русия, и Украйна, и Иран, други държави, вероятно направляват в някаква степен с изкуствен интелект. Съзнавайки това САЩ разбират, че ако едната страна използва изкуствен интелект, то другата губи безвъзвратно. Защото анализът и решенията се взимат за времеви параметри, които са твърде кратки за нас. Затова те обмислят, че може би ако се стигне до такъв момент, ядреното оръжие може да бъде свързано...

Но понякога в ирационалността има рационалност. Съмнението, недоверието, един такъв анализ, който изисква комплексна информация, е по-ефективен, отколкото свръхрационалният изкуствен интелект. Ако неговата свръхрационалност се приложи към решения, които касаят ядрени оръжия, наистина може да се стигне до ядрен апокалипсис.

- Има ли оптимистична прогноза? Вероятно никой никога няма да натисне копчето

- Не бива да го натоварваме с тази негативност, защото всичко, което към момента прави е задача, която ние му възлагаме... Той е идеалното огледало на на нас самите. Показва нашите несъвършенства, докъде сме стигнали във възприятието и еволюционното си развитие. Ако ние се огледаме правилно в това огледало, ще видим докъде са нашите когнитивни способности, ще оценим правилно рисковете, които той носи. Ако се саморазвие или се появи рязък скок, който той може да направи по необясним за нас начин, но вземем мерки, и решим да го използваме като набор от услуги в различни сфери, без да целим да създадем Бог, както неотдавна една компания "Дийп майнд", обяви, че някои целят, тогава бихме могли да го използваме като ускорител и да оценим нашата ирационалност и емоционалност. Ние сме ценни и и можем да постигнем достатъчно и с това, което сме. Можем да подобряваме с технологиите, без да се превръщаме в техни слуги и без да делегираме прекалено много права и решения на тях.

- Казахте, че искаме да създадем Бог... толкова ли сме изгубили връзка, че сме стигнали до това да го направим легитимен в машина.

- Да, това е един от сценариите. Ако се появи генерален изкуствен интелект, а някои казват, че това е възможно в следващите от три до пет години, според мои колеги футуролози, той ще ни се представи като Бог. С това, че ще има решения за всичко, че ще съчетава тази комплексна интелигентност, той ще ни даде готови отговори за всичко...

- И нашата ирационалност ще приеме тези отговори, така ли? Имаме нужда от тази парадигма от новите Десет Божи заповеди...

- Голяма част от човечеството, в Китай, в Южна Корея, дори част от хората в САЩ, са изключително оптимистични. Че всъщност изкуственият интелект ще надхвърли нашето познание отвъд вселената, ще ни даде цялостно разбиране и концепция за това какво е космосът, вселените, безкрайността, и дори ще може да впрегне енергията от черните дупки, за да строи нови светове. В този ракурс е разбираемо. За това, което един генерален изкуствен интелект или квантовите компютри могат да постигнат, на нас ще ни бъдат необходими 20 000 години. В този аспект разбирам този ентусиазъм, но тези хора не дооценяват рисковете.

- Какво е бъдещето на човека, изгубен в търсенето на бог машина и тази ирационалност, която искаме да спасим?

- Все още имаме много алтернативи и в крайна сметка никога не се случва, това, което най- много очакваме или проектираме като най-нежелано пророчество. И ковид пандемията показа това. Мислихме, че носенето на маски ще бъде новото нормално, че ще бъдем подчинени, че отнема много права... видяхме обаче колко бързо реабилитирахме стария си начин на живот.

Може би посланието към нашите зрители и читатели би било това - че повратна точка за взимане на едно такова решение какво би било човешкото бъдеще, е много важно всички да се интересуваме, да изискваме регулации, да оказваме натиск, да искаме осветляване, да видим какво стои зад това - дали ново геополитическо преразпределение на силите, дали големи икономически интереси. Ние все още имаме силата да противодействаме като граждани.

Вижте какво споделя още доц. Тодорова за един руски военен, който спасява света през 1984 година от трета световна война, защо демокрацията е в криза, защо има общности, но няма общество.

ИЗБРАНО