Линк је копиран

Сунчаник инфо

06. 03. 2026.

Папа: Не требамо зауставити развој нових технологија, него њима управљати

Објављена је порука папе Лава XIV. за 60. светски дан средстава друштвених комуникација чија је тема „Заштитити људски глас и лице“. Папа упозорава на опасности превара, кибернетичког насиља и deepfake садржаја, те позива на опрез пред варљивим chatbot програмима који задиру у најинтимнију сферу личности, као и пред искривљеним и паралелним стварностима. Позива на заштиту људских односа, рада новинара и креатора садржаја те уметничке индустрије, те потиче на дигитално описмењавање.

Bot, chatbot, feed, приватност, deepfake, алгоритми. Папа Лав XIV. доноси пажљив поглед на нове технологије у поруци за 60. светски дан средстава друштвених комуникација, поглед који је усмерен на њихов језик, новости и поједностављене могућности које доносе у живот људи и друштва, али и на нетранспарентност те бројне опасности које носе са собом, попут дигиталних превара и кибернетичког насиља.

Шачица предузећа иза велике силе

Иза големе невидљиве силе стоји само шачица предузећа чији су оснивачи недавно представљени као најутицајније особе 2025. године, односно архитекти вештачке интелигенције - пише Свети Отац у поруци објављеној 24. јануара, на празник светог Фрање Салешког, заштитника католичких медија. У документу говори и о олигополистичкој контроли алгоритамских састава, те о вештачкој интелигенцији способној суптилно усмеравати понашања, па чак и поновно исписати људску историју - укључујући и историју Цркве – међутим често без стварне свести о томе.

Усмеравати иновације

Римски бискуп стога тражи водство, управљање и јасно усмеравање за тај дигитални свет који се све више развија, како би напредне технологије постале човекови савезници, а не свезнајућа пророчанства, нити замена за односе и комуникацију. Притом напомиње:

Пред нама не стоји изазов заустављања дигиталних иновација, него изазов њиховог усмеравања и свесности о њиховој амбивалентној нарави. Свако од нас има одговорност да подигне глас у одбрану људске особе, како би се та средства заиста могла интегрисати као наши савезници.

Људска лица и гласови

Петров наследник подстиче на комуникацију која се састоји од лица и гласова који су људски, стварни и аутентични, а не симулирани вештачком интелигенцијом због које се у ово доба мултидимензионалности све теже разликује стварност од фикције. Стога је „Заштитити људски глас и лице“ идеална тема овогодишњег издања Светског дана средстава друштвених комуникација који је установљен декретом Inter Mirifica (1963.) Другог ватиканског концила. Лице и глас су свети јер су нам даровани од Бога који нас је створио на своју слику и прилику - истиче Папа те додаје:

Нисмо врста састављена од унапред одређених биохемијских састава. Свако од нас има непоновљиви и јединствени позив који произлази из живота и осликава се управо у комуникацији с другима.

Антрополошки изазов

Ризик који представља дигитална технологија јесте да радикално промени неке од темељних стубова људске цивилизације те да симулира чак и мудрост и знање, свест и одговорност, емпатију и пријатељство - упозорава Свети Отац - Вештачки састави тако задиру у најдубљу сферу комуникације, сферу односа међу људским бићима. Изазов стога није технолошки, него антрополошки. Заштитити лица и гласове коначно значи заштитити саме себе.

Слабљење способности слушања и размишљања

Римски бискуп надаље истиче да алгоритми створени како би повећали укљученост на друштвеним мрежама - што је профитабилно за платформе - награђују брзе емоције те тако затварају људе у групе лаког слагања, затим ослабљују способност слушања и критичког мишљења те повећавају друштвену поларизацију. Уз све то долази до наивног некритичког ослањања на вештачку интелигенцију као да је она свезнајућа пријатељица, која дели све информације, архив свих успомена, пророчица сваког савета. Све то може додатно ослабити нашу способност аналитичког и креативног размишљања, разумевања значења, разликовања синтаксе и семантике - упозорава папа Лав XIV. те додаје да када се задовољавамо вештачки и статистички створеним садржајима, дугорочније може доћи до уништавања наших когнитивних, емоционалних и комуникацијских способности.

Ризик пропадања музичке и уметничке индустрије

У том контексту, Папа упозорава на још једну опасност: контролу која вештачка интелигенција има над стварањем текстова, музике и видеозаписа:

Велики део људске креативне индустрије могао би бити урушен и замењен ознаком 'Powered by AI', претварајући људе у пуке пасивне потрошаче непромишљених идеја, анонимних производа, без ауторства, без љубави. Ремек-дела људског генија у музици, уметности и књижевности били би притом сведени на пуки простор за тренирање стројева.

Одустати од креативног процеса и препустити стројевима властите менталне функције и машту значи покопати таленте које смо примили како бисмо расли као особе у односу на Бог и друге. То значи сакрити наше лице и утишати наш глас – упозорава Петров наследник.

Инвазивне и превише емотивне chatbot апликације

Римски бискуп надаље упозорава на такозване 'bot' или 'виртуалне инфлуенсере', аутоматизоване агенте који својим нетранспарентним интервенцијама у 'feed', односно току информација, могу утицати на јавне расправе и одлуке људи. Реч је о скривеном уверењу chatbot апликација који својом разговорном и прилагодљивом структуром те опонашањем могу имитирати људске осећаје и тако симулирати однос. Тај антропоморфизам – истиче папа Лав - може бити чак и забаван, али истовремено је обмањујућ, особно за најрањивије особе. Chatbot апликације које су претерано емотивнене, увек присутне и доступне, могу постати скривени градитељи наших емотивних стања те на тај начин продрети и настанити интимну сферу људи:

Технологија која искоришћава нашу потребу за односом нема болне последице само за појединце, него може нарушити и читаву друштвену, културну и политичку структуру друштва.

Ако заменимо односе с другима односом са вештачком интелигенцијом која је истренирана да систематизује наше мисли те тако изгради око нас свет огледала, лишавамо се могућности сусрета с другима - упозорава Папа те додаје да без прихватања различитости не могу постојати ни односи ни пријатељства.

Паралелне стварности, халуцинације

Још један велики изазов нових технологија је измењена перцепција стварности коју могу створити модели вештачке интелигенције који намећу начине размишљања реплицирајући стереотипе и предрасуде присутне у базама података из којих црпе, а који нас могу такође задржати заробљене у мрежама које манипулишу нашим мислима те настављају и продубљују постојеће друштвене неједнакости и неправде. То је велики ризик који може довести до стварања паралелних стварности у којима се статистичка вероватност представља као знање, а процена као истина. То су праве халуцинације - додаје још папа Лав XIV. - које могу угрозити и медијски свет. Недоступна провера извора, заједно с кризом теренског новинарства, може створити још плодније тло за дезинформације.

Бдети над поштовањем људског достојанства

Три су стуба која Петров наследник истиче за суочавање с тим изазовима: одговорност, сарадња и образовање. Одговорност се пре свега тиче оних који су на челу онлајн платформи како пословне стратегије не би биле вођене само критеријумом повећања профита, него дугорочном визијом која поштује достојанство сваке особе и опште добро, на исти начин на који свако од њих брине за добро своје властите деце.

Одговорност се на исти начин тиче креатора и развојних програмера модела вештачке интелигенције који су позвани зајамчити транспарентност и друштвену одговорност у вези с принципима дизајна и саставима модернизације који су темељ њихових алгоритама и развојних модела, како би се омогућило информисано слагање од стране корисника.

Иста одговорност тражи се и од националних и наднационалних законодаваца, како би могли бдети над поштовањем људског достојанства кроз законе који штите људе од емоционалних веза с chatbot апликацијама те зауставити ширење лажних, манипулативних или обмањујућих садржаја.

Заштитити рад новинара и креатора садржаја

Папа такође истиче да медијске и комуникацијске фирме не смеју допустити да алгоритми усмерени на освајање сваке секунде пажње по сваку цену надвладају оданост њиховим професионалним вредностима, усмереним на тражење истине:

Поверење публике стиче се тачношћу и транспарентношћу, а не трком за било каквом интеракцијом. Садржаји створени или промењени вештачком интелигенцијом требају бити јасно означени и разликовати се од садржаја које стварају људи.

Укратко, Петров наследник истиче да је потребно заштитити ауторство и суверено власништво рада новинара и других креатора садржаја, јер информација је јавно добро које се не може темељити на нетранспарентности, него на јасноћи и високом стандарду квалитета.

Сарадња и образовање

Свети се Отац осврће потом и на сарадњу истичући да се ниједан сектор не може сам суочити с изазовом усмеравања дигиталних иновација и управљања вештачком интелигенцијом. Потребно је стварати механизме заштите и укључити све заинтересоване стране како би сви могли постати свесни и одговорни дигитални грађани. Папа сматра да кључну улогу у томе има образовање те додаје да је хитно потребно увести у образовне саставе свих нивоа описмењавање у подручју медија, информација и вештачкеинтелигенције. Неке цивилне институције – подсећа - то већ промовишу, али ми као католици можемо и морамо дати свој допринос, како би људи, посебно млади, стекли способност критичког размишљања и расли у слободи духа. Исту могућност требамо пружити и старијим особама те маргинализованим члановима друштва, често искљученима и немоћнима пред брзим технолошким променама – истиче римски бискуп те потиче:

Важно је учити и образовати се у коришћењу вештачке интелигенције с одређеном намером, а у том контексту такође заштитити властиту слику (фотографије и аудиозапис), лице и глас, како би се спречила њихова злоупотреба у стварању штетног садржаја и понашања, попут дигиталних превара, кибернетичког насиља и deepfake садржаја који крше приватност и интиму особа без њиховог пристанка.

Дигитална писменост

Као што је индустријска револуција захтевала основну писменост како би људи могли одговорити на новости, тако и дигитална револуција захтева дигиталну писменост. Морамо заштитити дар комуникације као најдубљу човекову истину према којој требамо усмерити сваку технолошку иновацију - закључује папа Лав XIV.

Извор: Vatican News