Fr. Benanti: Un document care ne ajută să ne punem întrebările corecte
31.01.2025, Roma (Catholica) - „Un document care ne spune: probabil acesta este timpul de a ne pune întrebări mai înainte de a da răspunsuri.” Cu aceste cuvinte fr. Paolo Benanti – profesor la Gregoriana, expert de bioetică și etică a tehnologiilor, președinte al Comisiei pentru studiul impactului inteligenței artificiale asupra jurnalismului și editurilor de la Președinția Consiliului italiană – „fotografiază” Nota Antiqua et Nova a Dicasterelor pentru Doctrina Credinței și pentru Cultură și Educație despre raportul dintre inteligența artificială și inteligența umană.
– După părerea dvs, care este noutatea acestui document?
– Este o conștientizare din partea gândirii credincioase care are ca scop și acela de a însoți Biserica în viața societății. Cu cât ne putem întrebări despre această mașină în măsură să înlocuiască parte din decizia umană, cu atât ne punem în mod inevitabil întrebări despre însăși identitatea ființei umane și despre unicitatea care o caracterizează, adică despre ceea ce ne face creaturi în relație cu un Creator. Adevărata noutate a acestui text este să ne pună în perspectiva corectă pentru a ne pune întrebări despre identitatea noastră și despre capacitățile noastre de a putea contribui la păstrarea și la cultivarea lumii încredințată nouă de Creator.
– Astfel inteligența artificială devine ocazie pentru a ne pune întrebări despre ceea ce suntem noi realmente?
– Aceasta este o noutate foarte mare: să ne gândim că până acum 10/15 ani, acest tip de întrebare despre uman părea eclipsată. Aveam decizii politice care de fapt echivalau unele specii de maimuțe mari cu persoana umană sau care negau identitatea de persoană embrionului sau celui care trăiește faza terminală a propriei vieți. Ceea ce părea o problemă de arhivat în trecut, pe neașteptate, grație operei omului, revine cu prepotență în dezbaterea publică și în interesul global. Această întrebare are o dublă instanță: pe de o parte antropologică, așa cum este bine subliniat de document; pe de altă parte, are desigur consecințe sociale și, prin urmare, putem deja să ne imaginăm că va fi dezvoltată în matca Doctrinei Sociale a Bisericii.
– Ce diferență există între așa-numita inteligență artificială și inteligența umană?
– Tocmai natura umană – cu greu de cuprins în cadrul unei definiții sau al unui perimetru determinat – ne face să spunem că atunci când vorbim despre om, vorbim despre ceva ce este mai ușor de descris în atâtea dimensiuni ale sale. Dacă noi ne gândim la modul în care grecii vorbeau despre inteligență, trebuie să recunoaștem că termenii erau „plurali”: Ulise este definit „isteț”, „inteligent”, cu termenul metis, care indică o formă de inteligență capabilă să găsească soluții la problemele practice. În schimb, când se vorbește despre inteligența capabilă să perceapă sensul a toate, grecii foloseau cuvântul nous. Iată, deja în matricele gândirii occidentale avem o inteligență umană plurală, capabilă să meargă în mai multe direcții. Inteligența artificială nu înlocuiește toate aceste forme de inteligență: este foarte bună să câștige jocuri, să găsească soluții, este capabilă de un mare metis. Dar nous, ceea ce caută sensul a toate și este capabil să orienteze viețile noastre spre un orizont, spre un viitor sau și spre transcendență, acesta este numai uman.
– De ce anume trebuie să ne temem de aplicațiile inteligenței artificiale?
– Dacă pot să fac o glumă, aș spune că primul lucru de care să ne temem este stupiditatea naturală. Pentru că mașina nu se pune singură în măsură să înlocuiască: întotdeauna suntem noi cei care, ca urmare a calculelor sau a tentativelor de a optimiza unele procese, am putea utiliza mașina făcând-o să aleagă în locul omului. Și o mașină așa de puternică, în măsură să aleagă între opțiuni infinite în fracțiuni de secundă, nu este mereu în măsură să înlocuiască ceea ce omenește se numește decizie, adică ceva legat cu înțelepciunea. Aici este toată ambivalența IA în măsură să facă lucruri cu mare viteză și eficiență, în timp ce omul, în schimb, este chemat să se întrebe cu privire la sens. Probabil că am putea sau ar trebui să ne temem de toate acele alegeri care nu ajung la decizii. De exemplu, să ne gândim la domeniul medical: o diagnoză nu este niciodată pur și simplu o alegere între terapii, ci o luare în grijă a unei existențe umane din partea unei alte existențe umane care în mod implicit îi face o promisiune de îngrijire. Trebuie să ne temem de toate acele situații în care vom ajunge să trăim o umanitate diminuată pentru a permite o „mașinațiune” crescută. Și să promovăm, în schimb, toate aplicațiile care mențin vie această responsabilitate umană.
– Documentul insistă mult asupra responsabilității umane și asupra necesității de a da cont de decizia luată. De ce?
– Există două mari filoane care dau viață răspunsului frumos prezent în acest document. Există un filon care pornește de la optica de credință și se întreabă despre ce este specificul uman din punctul de vedere al conștiinței. Constituția conciliară „Gaudium et spes” ne vorbește despre acel loc intim dinăuntrul nostru unde noi auzim un glas care în unele momente ne spune: fă aceasta și evită aceasta. Este locul sacru unde omul simte glasul lui Dumnezeu. Iată matricea responsabilității. Însă în cadrul acestei conștiințe credincioase există și o întreagă conștiință a efectului de a sustrage responsabilitate de la decizia umană. Mari scriitori precum Hannah Arendt au vorbit despre modul în care, în marile masacre din secolul trecut, s-a încercat să se sustragă responsabilitate de la decizia umană pentru a deveni parte dintr-un angrenaj care duce la maxima dezumanizare personală și socială. Aceste două capacități umane, credință și rațiune, dându-și mâna, pot să ne ajute să vedem cum să inovăm inteligența artificială așa încât să poată deveni cu adevărat izvor de dezvoltare umană.
– Din păcate, continuăm să vedem rolul armelor autonome. Ce anume putem spune despre aplicarea inteligenței artificiale la război?
– Să ne gândim la noi în urmă cu 60.000 de ani, când într-o peșteră am luat în mână pentru prima dată o măciucă. Era o ustensilă pentru a avea mai multe nuci de cocos și o armă pentru a deschide mai multe cranii ale altor persoane. De fiecare dată când suntem în fața unei tehnologii, suntem în fața tentației de a transforma o ustensilă într-o armă. Dar suntem inserați și într-o istorie de salvare – să ne amintim de profetul Isaia – în care armele pot să devină ustensile de folosit pentru a cultiva, pentru a sătura și a da viață. În această istorie a noastră de păcat și convertire, cel care face războiul are tentația foarte puternică de a folosi instrumente cu o tehnologie așa de puternică. Aș vrea să amintesc că IA nu este prima formă de tehnologie autonomă utilizată în război. Să ne gândim la minele anti-om: sunt autonome! Un sistem de inteligență artificială îl putem defini ceva ce poate lua de la uman un scop, și apoi să adaptează mijloacele pentru a obține acel scop. Însă niciodată ca în război nu vedem că mijloacele nu sunt toate egale: pornind de la marea tragedie atomică, ne-am dat seama de existența de mijloace de evitat cu orice preț. O mașină, spre deosebire de ființa umană, nu va înceta niciodată să urmărească obiectivul său și, prin urmare, ar putea să nu fie niciodată o încetare a luptelor dacă ne încredințăm numai mașinilor. Cu cât este mai mare capacitatea omului, cu atât devin mai radicale întrebările la care trebuie să răspundem.
– Intervenind la G7 de anul trecut, Papa Francisc a spus că niciodată nu ar trebui lăsată unei mașini decizia de a lua o viață umană.
– O voce profetică cea a Papei. O voce foarte puternică ce indică o direcție. Avem nevoie de o precauție extremă sau, mai bine zis, pentru a folosi cuvintele documentului, de o responsabilitate extremă.
– Inteligența artificială permite astăzi să se falsifice reprezentarea realității. Să ne gândim la imaginile false sau retușate care pot fi deosebite tot mai puțin de cele adevărate. Sau la difuzarea masivă a fake news. Cum putem contrasta aceste derive?
– Se pare că pentru unii adevărul a devenit ceva secundar și că sunt posibile narațiuni complet dezlipite de fapte. Toate democrațiile occidentale se întemeiază pe o premisă fundamentală: ele pot să existe ca democrații dacă persoanele sunt în măsură să-și facă o opinie corectă despre fapte. Așadar, democrația dă jurnalistului aproape un rol de civil servant: profesionalitatea sa este asemenea cu aceea a omului de știință care caută adevărul sau a judecătorului care caută să verifice faptele. Inteligența artificială ar putea face mult mai puțin scumpe unele procese de producere a unor tipuri de informație, dar asta nu înseamnă că ar fi mai adevărate și nici mai utile. Pentru a trăi într-o democrație avem nevoie de jurnalism profesional, iar jurnalismul profesional are nevoie de un sector industrial. Toate acestea pot fi vătămate economic, sau distruse în capacitatea lor, de o inteligență artificială aflată în mâini greșite sau cu finalități greșite.
– Cum să ne protejăm?
– Documentul ne amintește categoria cheie a responsabilității și există forme de responsabilitate care în spațiul public asumă consistența dreptului. Probabil că a venit momentul de a insista ca să existe un drept „cognitiv” al persoanelor: acela de a ști care conținuturi au fost elaborate de o ființă umană care pune în ele responsabilitatea sa profesională, și care, în schimb, au fost produse de o mașină. Probabil că trebuie să definim niște guardrail pentru a ține în frâu slujirea adusă adevărului informației și al jurnalismului. Documentul ne spune că probabil acesta este timpul de a ne pune întrebări, mai înainte de a da răspunsuri. (material Vatican News, tradus de pr. Mihai Pătrașcu pentru Ercis.ro)
