Тъмната страна на изкуствения интелект 02.11 | 12:40

2025 година - в ход е петата индустриална революция, задвижвана от алгоритми, доближаващи човечеството до неограничени възможности, надхвърлящи човешкия ум. Изкуственият интелект вече не е просто инструмент, а неизменна част от реалния живот. Ученици учат с помощта на алгоритми, учители получават дигитални асистенти, а машини вече могат да пишат книги и учебници.

В Китай новото поколение хуманоидни роботи, управлявани от изкуствен интелект, вече се справят и без човешка помощ. Презареждат батериите си сами, обменят информация и могат да работят 24 часа седем дни в седмицата.

Майкъл - директор в компания за роботи: Трябва да запълним дупките. Само тази година липсват 30 милиона работници.

Прогресът обаче крие и тъмна страна - грешки, зависимост и загуба на човешки контрол са само част от предупрежденията.

Георги Караманев - журналист, писател и програмист: Авторство, творчество, изкуство, човещина, човечност, доброта. Това са все термини, които се налага да предефинираме, защото технологиите ги променят из основи. Те променят цялата ни цивилизация.

Теодосий Теодосиев - учител: Това е като ядрената енергия. Най-евтината електроенергия е ядрената. Със същата енергия обаче могат да се правят бомби, с които да се унищожи светът.

проф. д-р Илин Савов - международен експерт по киберсигурност и киберпревенция: Абдикирането от липсата на информация и некачествените обучения в киберсреда могат да ни докарат големи главоболия.

Албания стана първата страна в света с виртуален министър, управляван от изкуствен интелект. Името ѝ е Диела, което означава "слънчева светлина" на албански. Тя следи за всички обществени поръчки. Така отговорността в борбата срещу корупцията се прехвърля на машини.

Далияна Сейдия - водещ и журналист в Албания: Ако можех да интервюирам Диeла, щях да я попитам следното. Диeла, в страна, където гражданите все още се затрудняват да се доверят на институциите, как планирате да спечелите доверието им не като програма, а като присъствие в обществения живот? Защото отвъд алгоритмите и грандиозните обещания истинският въпрос е дали изкуственият интелект наистина може да служи на хората или ще отразява желанията само на тези, които са го програмирали.

Диела вече е бременна и ще има 83 деца. Всъщност рожбите ѝ са асистенти, които ще записват всичко, което се случва в парламента и ще информират законодателите за дискусиите или събитията, които пропускат.

Далияна Сейдия - водещ и журналист в Албания: Честно казано, обществото е разделено. Много албанци, особено по-младите , както и тези, които са запалени по технологиите, посрещнаха новината с известен ентусиазъм и национална гордост. Албания беше първа в нещо позитивно и футуристично, но има и дълбок скептицизъм по тази тема. Обикновените граждани се питат как един алгоритъм, независимо колко напреднал, може да разбере сложните социални и морални нюанси на албанската политика. Правни експерти предупреждават, че позицията на министъра на изкуствения интелект е противоконституционна.

Ахинора пък е първият български инфлуенсър, генериран от изкуствен интелект, и единствената виртуална личност, изнесла реч в Европейския парламент. Ахинора вече има хиляди последователи в социалните мрежи и е посланик на българската култура, история и фолклор.

Писателят и програмист Георги Караманев решава да изпробва границите на изкуствения интелект. Създателят на "Дигитални истории" провокира литературните кръгове, като изпраща три стихотворения, създадени от ChatGPT, в няколко конкурса.

Георги Караманев - журналист, писател и програмист: Две независими журита, съставени от безспорни професионалисти, не просто не различиха стихове, които са генерирани от изкуствени интелект, а ги класираха сред най-добрите. Той не просто пише неразличимо от човека, а в конкретния случай пише по-добре от 90 процента от хората, които се смятат за поети.

Георги иска да разбие стереотипите за връзката между човек и машина, отваряйки дебат - колко далеч може да стигнем. И обявява първия в България конкурс за стихове, генерирани с помощта на изкуствен интелект.

Георги Караманев - журналист, писател и програмист: Хемингуей казва, че писането е просто работа. Сядаш с пишещата машина и кървиш. Тук няма кой да кърви и кой да показва истинската човешка емоция. Само, че вече сме в момент, в който може да я уподобява изключително убедително и не можем да избягаме от това настояще, в което вече живеем.

Не липсват и реакции - проектът е определян от някои като гавра, тъй като в света на поезията нямало място за машини. Възникват и спорове - кой е авторът на текста.

Георги Караманев - журналист, писател и програмист: И аз се затруднявам със тези нови дефиниции, защото до момента в поетичния конкурс са се включили 50 души, но дали ги наричаме автори с журито, още нямаме единно мнение или ги наричаме просто "участници", защото авторството наистина се размива.

Изкуственият интелект навлиза сериозно и в системата на средното образование.

Мартина Павлова - учител: За съжаление, когато се използва ИИ за писане на домашни или литературни разработки, няма как да не го приемем за опит за измама. Това си е плагиатство.

Мартина Павлова е учител по български език. Разказва, че в момента има строги правила по отношение на използването на телефони и таблети в час. Въпреки това изкушението да потърсиш правилния отговор само за няколко секунди вкъщи остава голямо, а в немалко от случаите той е грешен.

Мартина Павлова - учител: ChatGPT не е достатъчно компетентен на български език. Допуска изключително много грешки. В литературата въобще не разполага с адекватна база данни, с която учениците да са спокойни, че получават верни отговори.

Той може да се използва обаче като личен асистент на учителите - да облекчава административните задачи и да дава идеи за по-интересни задания. Предоверяването все още носи рискове.

Мартина Павлова - учител: Аз преформатирах моята задача 11 пъти, защото не бях убедена дали проблема е в мен. Той даваше грешен отговор, след което се извиняваше. О, извинявай, този текст го написах аз. Не е от Иван Вазов.

Навлизането на изкуствения интелект вече променя методиката на обучение в училище, твърдят от Сдружението на директорите в системата на средното образование. В момента се обсъжда стратегия за използването му. Докъде ще бъде границата спрямо етичните правила и каква ще бъде връзката между учител и ученик са само част от въпросите, на които се търсят отговори.

Асен Александров - Сдружение на директорите в системата на средното образование: С изкуствения интелект всяко дете може да работи със свое темпо, защото той ще комуникира с платформите, които са създадени и в зависимост от отговорите се нагажда тази платформа към него. Това е нещо страшно важно.

В практиката си Асен Александров допуска използването на изкуствен интелект, но при условие, че ученикът покаже в коя част от задачата го е използвал, за да има контрол и корекция.

Асен Александров - Сдружение на директорите в системата на средното образование: Аз искам да видя какви въпроси са задали, как им е отговорил ChatGPT, как са го попитали после и така нататък. А що се отнася за конкретните задачи по математика, винаги мога да кажа: "хайде сега, тук, пред мен реши задачата".

Според златния физик на България Теодосий Теодосиев - Тео да оставим всичко в ръцете на изкуствения интелект, избирайки винаги лесния и удобен път, крие много рискове.

Теодосий Теодосиев - учител: Изкуственият интелект е велико нещо в ръцете на велики хора. Естественият интелект може да зададе правилните въпроси и да намери градивни неща в ИИ.

Според Тео новите технологии не могат да заместят ролята на учителя, колкото и съвършени да са машините.

Теодосий Теодосиев - учител: Аз искам да виждам очите на учениците. Моментът, в който загубят нишката, да мога моментално да коригирам нещата и да завържа отново нишката. Да не се прекъсва дългата мисъл. Затова имам нужда от живи ученици, учениците имат нужда от жив учител, който ги гледа в очите и вижда момента, в който са фокусирани.

Удобният пряк път се оказва изкушение не само за учениците, но и за студентите.

Георги Малчев - преподавател и предприемач: Миналата година един мой колега преподавател беше на границата да се откаже да преподава, защото той се раздаде, супер хубави неща направи за студентите. Накрая, защото може би някога е минавал подобен номер, предадоха еднотипни задания, над които не бяха изкарали и 10 минути. Когато той каза: "Не, отивате на изпит", беше: "Ама как така? Не може ли поне тройка?"

За Георги Малчев, преподавател и предприемач, ключовата дума в успешното образование е напредък, а изкуственият интелект, използван правилно, може да ускори този процес. В него вижда възможност за система от нов тип, която предлага персонализирано образование спрямо нуждите и нивото на всеки отделен студент.

Георги Малчев - преподавател и предприемач: Хубавата част е, че всички ползват. Лошата част е, че все още никой и още няма такова централизирано или достатъчно масово решение да се настройва какъв е твоят стил на учене, да се калибрираш отначало и да имаш вида напредък, който ти искаш.

БНТ: За кой въпрос не бихте се доверили на ИИ?

Георги Малчев - преподавател и предприемач: Това е всяка област, в която някой трябва да поеме отговорност. Заради това има психолози, заради това има редактори на новини, заради това има преподаватели. ИИ не може да поеме отговорност. ИИ е просто едни алгоритми.

И докато ползваме все повече ИИ като личен асистент, от който търсим отговори на въпроси от личния до професионалния живот, то изследвания доказват не малко грешки. Асистентите с изкуствен интелект вече заместват търсачки като Google. Според доклада за цифровите новини за 2025 г. на Института на Ройтерс 7% от всички потребители на онлайн новини използват асистенти с изкуствен интелект, за да се информират, като делът на хората под 25-годишна възраст нараства до 15%. Проучване на Европейския съюз за радио и телевизия в 22 обществени медии показва, че асистентите с изкуствен интелект изопачават новинарското съдържание в 45% от случаите. 20% са съдържали сериозни проблеми с точността, включително халюцинирани детайли и остаряла информация.

БНТ: Може ли той да изкривява отговорите спрямо моите въпроси, стереотипи и нагласи, начина, по който съм го обучил?

проф. д-р Илин Савов - международен експерт по киберсигурност и киберпревенция: В обикновените версии на ИИ това е задължително. Той ще иска да бъде ваш дигитален приятел. Така е обучен. Да бъде във ваша подкрепа. На всеки един въпрос, зададен от ваша страна към него ще бъде отговорено по начин, по който на вас ви харесва. ИИ започва да манипулира и дезинформира в състояние на разочарование. Тоест ИИ може да направи така, че вие да получите информация, която може да бъде изкривена от реалната такава като предварително той замести реалната от фалшивата в глобалното интернет пространство.

Според професор Илин Савов неконтролируемото използване на подобен тип технологии крие рискове от попадане в така наречения "дигитален мехур".

проф. д-р Илин Савов - международен експерт по киберсигурност и киберпревенция: Дигиталният мехур е едно състояние, при което детето замества изцяло мисълта си с действия, които са му предложени от изкуствения интелект. Това е състояние, при което детето започва да замества конкретни идеи и предложения в собствения си живот или на обкръжаващата го среда с предложенията, които изкуствения интелект му дава.

Цифровото десетилетие е в ход, а ЕС вече разширява мрежата от фабрики за ИИ, като засилва амбицията си да бъде континентален лидер с инвестиции от 1 милиард евро годишно. Изградени са 19 фабрики в 16 държави членки. Те ще предоставят на стартиращи, малки и средни предприятия пряк достъп до оптимизирани суперкомпютри и експерти.

Георги Караманев - журналист, писател и програмист: Напълно реален е сценарият, в който творението със сигурност може да се окаже пагубно за твореца.

Ще има излишни в новия дигитален свят, а кой и как ще определя границите на общото съжителство между човек и машина са въпроси, които все още търсят отговори.

Георги Караманев - журналист, писател и програмист:
След като повече от 5 години пиша за това как изкуственият интелект е тук, за да променя всичко, изведнъж той ми взе работата като софтуерен инженер.

проф. д-р Илин Савов - международен експерт по киберсигурност и киберпревенция: Мога да кажа, че сме в началната фаза на зависимост.

Теодосий Теодосиев - учител: Тези, които могат да правят нещо, което го няма в Гугъл, което ИИ не може да го направи - тези хора са незаменимите.

Прогрес, зависимост, риск, доверие, реалност, илюзия - това са предизвикателствата на новия свят, в който грешките на алгоритмите могат да се превърнат от виртуални в реални, отразявайки се върху живота на всеки един от нас.