Футурологът Мариана Тодорова: Трябва да внимаваме улеснението, което ни дава изкуственият интелект, да не се превърне в когнитивен залез и оглупяване

Създаден през 60-те години на миналия век, чатботът „Елиза“ поема ролята на „терапевт“, способен да води логичен разговор, а създаването на програмата е сред първите опити за развитие на изкуствен интелект (ИИ), какъвто е популярният в момента ChatGPT. През март 2023 г., след двумесечен диалог с „Елиза“ по теми, свързани с климатичните катаклизми на планетата ни, белгиец сложи край на живота си. Преди седмици черно-бяла творба на немски фотограф, генерирана от изкуствен интелект, спечели Световните награди за фотография на SONY. Авторът Борис Елдагсен отказа да приеме наградата и коментира, че е участвал в надпреварата единствено за да провери доколко журито е подготвено за навлизането на ИИ във фотографията. Преди дни 25-годишният румънски стратег по иновациите Валентин Лъзуряну пък създаде първата църква, базирана на ИИ, която предлага онлайн изповеди. Идеята – да спести време и да облекчи хората в забързаното им всекидневие.

Такава е кратката хронология на събитията от последните два месеца, в които ИИ доказа, че повечето от нас не са подготвени за навлизането му в живота ни, но процесите трудно могат да бъдат възпрени. Илон Мъск и близо 2000 технологични лидери, учени, политици и интелектуалци от цял свят призоваха за шестмесечна пауза в разработването на мащабни проекти с изкуствен интелект, позовавайки се на „дълбоките рискове за обществото и човечеството“.

По темата за етичните аспекти на ИИ, необходимостта от висока обща култура у подрастващите и неизбежната трансформация на образованието разговаряме с доктора по футурология Мариана Тодорова, доцент в Института по философия и социология – БАН. Тя е автор на книги за изследване на бъдещето, консултант футурист по стратегиране, иновации и визионерство. Има специализации по лидерство в „Харвард Кенеди Скуул“, Държавния департамент на САЩ и Китайската академия за управление. Основава и ръководи българския клон на глобалния тинк танк – „Милениум проджект“ (със седалище във Вашингтон, САЩ) в България и е член на Световната академия за наука и изкуства. Участва в множество конференции за изследвания на бъдещето и футуристика.

През юли 2019 г. в САЩ бе публикувана първата ѝ книга – „Future Studies and Counterfactual Analysis. Seeds of the Future“, в съавторство с американския футуролог Теодор Гордън (един от идеолозите и ръководител на третия етап на проекта „Аполо“ за кацане на Луната). През февруари 2020 г. българските читатели посрещнаха книгата ѝ „Изкуственият интелект. Кратка история на развитие и етични аспекти на темата“.

– Г-жо Тодорова, през 1951 г. Айзък Азимов публикува фантастичната си история „Колко им е било весело“ и дава облик на образованието през 2157 г., в което има учители автомати. Героите му – учениците Марджи и Томи, намират истинска книга, от която разбират, че някога, през ХХ век, учителите са били хора, а децата са били щастливи да ходят на училище. Свидетели сме, че много от разказите на писателите фантасти се превръщат в реалност. Вървим ли според вас към описаното от Азимов бъдеще на образованието – без учителски авторитет, без човешки фактор, без личен пример?

– Въпросът съдържа множество подвъпроси. Много често прогнозите на писателите фантасти се оказват правилни, а очертаната от тях реалност се сбъдва. Има голям дебат дали това се случва, защото те са имали интуиция за бъдещето и въображение, което много плътно го описва, или напротив – създавайки тези разкази, са канализирали усилията и действията на учените в посока на това осъществяване – нещо, което във футурологията се нарича „самосбъдващо се пророчество“.

По въпроса дали робот, или ИИ биха могли да заменят ролята на учителя, хипотетично – да. Много прогнози дори предвиждат, че това ще се случи до 20 години, под различна форма. Това биха могли да бъдат визуализирани във виртуална среда учители, които говорят и предоставят някакъв вид съдържание и лекции. Биха могли да бъдат роботи, които са материално изработени, но също и холограми, които, макар и неплътни, наподобяват човешки образ. Всъщност вече има няколко доста успешни роботи, като най-известният сред тях е Айнщайн. Използва се предимно от ученици до VII клас, които му задават въпроси, а той отговаря. Има и много компютърни програми, базирани на ИИ, които под формата на различни въпроси, които ученикът задава, персонализират съдържанието.

Още преди няколко години „Киндъл“ разработи проект, в който свърза своята платформа с лицево разпознаване и наблюдава реакциите на ученика, докато той възприема текста. По начина на движение на очите и експресията на лицето ИИ може да установи дали ученикът изпитва някакви затруднения, колко пъти препрочита нещо, кое не разбира. Всъщност много голяма част от технологичните оптимисти смятат, че именно ИИ с всичките тези платформи ще доведе до така желания личностен индивидуален подход, защото ще се знае нивото на всеки обучаващ се, което дава възможност той да бъде поощряван и стимулиран да се движи на своя собствена скорост, а не в среда, в която е много напреднал и не получава достатъчно, или напротив – среда, в която изостава и не може да навакса необходимите знания.

Има много платформи за учене на езици, базирани на ИИ, за решаване на сложна математика, като подходите са различни. След като установи доколко ученикът възприема урока, ИИ му задава въпроси, на които той трябва да отговори, и според пропуските се организира ново съдържание и ново обучение. Във всички науки това вече се прави и дали е програма, която просто се предава през екран, или е въплътено чрез виртуален, холограмен образ или робот, е вторично решение. Вече има възможност чрез виртуална реалност – с помощта на маска, децата да се научават да свирят на пиано, виждайки виртуалните ръце на своя учител и повтаряйки тези действия.

Новата роля на учителя в образованието на бъдещето

Образованието определено е таргетирано от всички разработчици на ИИ. Но тук наистина са важни няколко въпроса – първо, че училището, особено в началния и средния етап, има не просто образователна функция, но и социализираща. Чрез нея учениците добиват важни вторични умения – емпатия, общуване, емоционална, културна и всякаква друга интелигентност. И ако този процес се дехуманизира или преизобрети, ще бъдем поставени в нова човешка и екзистенциална ситуация. Това, което по-скоро е вероятно да започне да се случва, е да се ползват все повече платформи, в които учителят ще изпълнява нова роля – като ментор, човек, който създава, направлява и наблюдава целия процес, но участва по-скоро като допълващ, дискутиращ съдържанието.

Навлизайки във всички сфери, ИИ променя ролите и задачите, като всъщност тенденцията е винаги да има преквалификация и надграждане на квалификацията. Вероятно самите уроци ще се преподават от ИИ. В Ню Йорк вече има експериментално училище с няколко паралелки, наречени flipped classroom. Децата учат всичко вкъщи, слушайки уроци, преподавани от ИИ, а в класната стая дискутират и задават въпроси, пишат домашните си и се учат на критично мислене. Едно от най-важните умения на бъдещето ще бъде да се научим да работим съвместно с алгоритми и да познаваме всички сложни комплексни системи, които ще ни заобикалят. Просто защото всяка система – образователна, здравна или свързана с определена професия, ще бъде усложнена от роботизацията и навлизането на ИИ, а ние ще трябва да изградим умението да я разбираме и управляваме.

Учителският авторитет

Що се отнася до авторитета на учителя, това е силно човешко качество и нашият опит показва колко голяма движеща сила е той – особено за малките деца. Колко силно са повлияни да харесват или не даден предмет според личността на своя преподавател. Качествата на учителя са от изключителна важност и вероятно те ще останат силни и ще направляват процесите в началното образование. И въпреки постепенно налагащата им се нова роля на „супервайзъри“, ще е важно как учителите направляват целия процес и внасят своя личностен, субективен човешки принос. Цялата тази промяна на ролята на учителите няма да се случи сега и веднага, но тенденциите са такива – не просто навлизане на ИИ, а и на всички дигитални технологии, които ще действат в синергия с него: 3D принтиране, виртуална и смесена реалност, игровизация на много от предметите, преподаване на уроци по литература и история под формата на игри стратегии, разиграване на различни исторически сценарии, изцяло дигитални класни стаи.

Платформите ChatGPT

Тук е удачно да споменем платформите ChatGPT 3, ChatGPT 3.5 и ChatGPT 4, особено последната версия, за която преди година никой не би въобразил, че ще развие този ИИ, който имаме днес. Те наистина предизвикват образователните системи просто защото все още няма софтуер, който да покаже, че е ползван. Не бихме могли да забраним на учениците да го използват, защото това е съвсем реален инструмент, който им помага. Но всъщност е важно образователните системи да реагират много бързо и да наложат неформални правила за работа с него. Защото второто много важно умение, което хората ще трябва да придобият, е да им бъде обяснено как се работи и какво могат да очакват от взаимодействието си с тези алгоритми. Къде биха могли да бъдат подведени, би ли могла да бъде сгрешена информацията, има ли опасност да припишат някакви човешки характеристика на алгоритъма – просто защото ние самите функционираме по този начин.

Много е важно да бъде обяснено и разбрано, че ни се поднася синтезирана информация, но за да придобием истинското знание и да развием познавателните си умения и мозъка си, трябва да изминем дългия път – да се запознаем с оригиналните източници и да ползваме ChatGPT 3 и ChatGPT 4 само като полезни насоки. В целия този процес трябва да внимаваме улеснението да не се превърне в своеобразен когнитивен залез, упадък и оглупяване.

– Създателят на утопичния проект „Венера“, футуристът Жак Фреско споделяше, че най-важното е да научим децата си да мислят. Подкрепяте ли тези негови думи и доколко ИИ възпрепятства това умение?

– Да, за мен това е най-важното, защото всякакъв тип информация и знание при наличния ресурс в интернет и всички платформи могат да бъдат търсени, намерени и бързо придобити. Това обаче не бива да се абсолютизира, защото вече виждаме, че ерата на тесните специалисти свършва. ИИ в момента е много добър в изолираните сфери, в които дава решения – независимо дали е земеделие, медицина, космически науки, фармация. Това стана видно още с тренда за интердисциплинарно сътрудничество и пренос на знания от една наука към друга. Наистина не бива да се претоварваме с излишни знания, които, така или иначе, се забравят.

Но според мен като основна тенденция се очертава връщането на по-широкия обхват от знания, ерудиция и това, което в България наричаме „обща култура“ – защото помага именно на интердисциплинарното мислене. Самата информация и знание изграждат т.нар. невропластичност в мозъка – нашата интелигентност. Когато мислим, създаваме определен тип връзки. Най-важно ще бъдат критичното мислене и подходът в решаването на дадени задача и проблем. И още – как да намираме необходимата информация.

– Какви са етичните въпроси, които поставя навлизането на ИИ в живота ни?

– Те наистина са много и от различно естество. Първото е, че може да стигнем до споменатия вече когнитивен упадък – не защото самият ИИ го причинява, а защото ние сме устроени така, че винаги търсим оптимални решения и кратки пътища, които в науката наричаме евристики. Когато имаме платформи, които правят почти всичко вместо нас, когато не се налага да учим езици, да решаваме сложни математически уравнения, това наистина води до загуба на интелигентност. През последните 40 години коефициентът на интелигентност в световен мащаб намалява – и това се отнася за всички нации.

Тук основни фактори според мен са наличието на интернет, на ехо-стаите, на прекалената информация, която хората трудно могат да обработят. Те не успяват да се фокусират повече от 8 минути върху една тема и се информират само по заглавията. Като цяло, по-малко се задълбочават – от една страна, защото темите и посоките са много и нямаме необходимите когнитивни способности. От друга страна – отнесено до по-младите в „Инстаграм“ и „Тик-ток“, виждаме че когато сменят често съдържанието и скролват, мозъкът им се стимулира чрез допамин и се изгражда механизмът на бърза смяна на информацията и незадълбочаване.

Друг морален аспект е фактът, че ИИ променя характера на самите системи. А визирайки образованието – там би могло наистина да има дехуманизация и отчуждение. Изкуственият интелект променя и съдебната система – вече се ползват платформи за правен анализ или съдии на базата на ИИ, които променят воденето на делото, съкращават процесуалния характер и т.н.

Така се нарушава презумпцията за невинност, защото платформата много бързо отсъжда. Най-големият и пряк ефект от навлизането на ИИ в живота ни ще бъде загуба на работни места. И това не е функция на самия ИИ, а е функция на компаниите, които го внедряват и използват. Германският таблоид Bild съвсем наскоро съобщи, че уволнява 2000 журналисти, защото за писане на съдържание по некритичната информация ползва ChatGPT 3. Много фирми също го използват – в това число счетоводни услуги, обработка на текст за работа с клиенти. Компаниите се движат от интересите за оптимизация и ефективност и всъщност тук трябва да се намесят държавите. Затова нееднократно призовавам, че това е въпрос на глобален консенсус – как да се използва и докъде да се стигне с изкуствения интелект, и какви регулации да има. Защото нито образователната ни система, нито пазарът на труда са готови за такава трансформация, която ще се случи, ако няма съответни реакции и мерки.

– Има ли инициативност от страна на правителства, държавни организации и институции за подобни разговори и решения?

– До много скоро подобна инициативна беше налична, но не беше регулярна. Не се усещаше важността и бързината, с която трябва да се вземат подобни решения. Европейската комисия работи от няколко години по този проблем – дори изгради стратегия и наложи забрана по отношение на това да свързваме изкуствен интелект с автономни и полуавтономни оръжия. Преди две години бях представител на България в ЮНЕСКО на междуправителствена среща за изработване на етическа рамка за ИИ.

Тази рамка е доста добра, тя обаче няма задължителен характер.

В ООН се правят регулярни срещи, а сега, с появата на ChatGPT 3 и ChatGPT 4, дойде осъзнаването колко бързо се случва всичко и как именно липсата на регулации води до това да бъдат освобождавани много работни места в различни сектори.

Това задълбочи диалога по темата, за което принос има и инициативата на Илон Мъск, който заедно с още 2000 разработчици и интелектуалци направи много сериозен и валиден аргумент. Доскоро проблемът беше, че различните заинтересовани лица не разбираха дълбочината на проблема, много често политици и хора от неправителствени организации смятаха, че това е просто софтуерна програма и поредната дигитална технология. Фактът е, че ChatGPT вече е интелигентна същност, ускорителят, който трябва да накара правителства и отделни институции да изработят адекватен отговор и да търсят решение на предизвикателството.

– Какво бъдеще пожелавате на днешните ученици, сред които е и Вашата дъщеря? Смятате ли, че през XXI век доброто образование ще бъде най-скъпият продукт, както твърди известният наш учител по физика Теодосий Теодосиев?

– Моята дъщеря учи в Софийската математическа гимназия, а напоследък все по-често е изкушена от хуманитарните науки. Иска ми се да има образование със здрав фундамент, което наистина рефлектира, както и ученици, които не се страхуват да се себеизобретяват и самоактуализират – две нови понятия, които бележат промяна на уменията на всеки 3 – 4 години. На днешните ученици пожелавам едно по-утопично бъдеще от това, което сякаш е на прага ни. Бъдеще, в което сме осъзнали това, с което разполагаме, силата на всички технологии и ИИ, но не бързаме да ги развиваме просто защото не сме изградили още ценностно и нормативно отношение към тях. Бъдеще, в което светът продължава да функционира по линеен начин, понеже ние сме линейни, биологични същности.

Не можем да искаме да се сравняваме с технологиите, чиито мощности и развитие стават по експоненциален начин – с качествени скокове. Пожелавам на всички нас бъдеще, в което осъзнавайки силата на тези технологии, ги ползваме точно за това, за което могат да бъдат полезни – да дават решения в медицината, в космическите науки, в земеделието, фармацията, в справянето с климатичните промени, с решаването на продоволствените проблеми, с намирането на нов екологичен баланс. А не свят, в който те са част от надпреварата, от най-съществените характеристики на капитализма или част от геополитическото състезание, в което контролът е изпуснат и ние сме просто наблюдатели.