INTELIGENȚA ARTIFICIALĂ (AI) ȘI ARMELE VIITORULUI. DE PUIU GEORGE ALEXANDRU

CE ESTE AI?

AI sau Inteligența artificială este un subiect controversat în zilele noastre și are motive bune să fie așa. Prin inteligență artificială înțelegem capacitatea științei și ingineriei de a crea mașinării (computere) inteligente care pot imita într-o oarecare măsură inteligența umană. Cu alte cuvinte, AI este un program de computer care poate lua decizii proprii, executa computații complexe, soluționa probleme complicate și poate să-și auto-îmbunătățească codul programului printr-un proces de învățare de tip trial-error (încercare-eroare). La baza conceptului de AI stau statistica, matematica și o bază largă de informații (raw dată).

Se pare că pe plan mondial există un concurs tacit între marile puteri pentru dezvoltarea acestei tehnologii, un fel de război rece ascuns, deoarece sunt ramificații tehnologice și economice care se răsfrâng – cel mai probabil – în toate domeniile umane: medicină, agricultură, economie, educație, sport, transport, robotică, artă, complexul militar-industrial etc. Această tehnologie poate aduce nenumărate beneficii (ca în majoritatea cazurilor de inovație), doar că dilema constă în potențialele probleme care pot apărea, probleme care pot fi de-a dreptul dezastruoase pentru umanitate.

TEHNOLOGIZAREA AI A ARMATEI ȘI A ARMAMENTELOR

Un astfel de domeniu problematic este complexul militar-industrial. Dacă facem un scurt rezumat istoric al tehnologiilor de război, vom vedea că războaiele în antichitate s-au purtat în lupte corp la corp cu diverse arme (săbii, topoare, scuturi etc). În era modernă, tehnologiile au evoluat într-o multitudine complexă de a susține un război: de la soldați cu puști până la avioane, nave maritime, tancuri etc. Cu siguranță, luptele moderne – în general – nu se poartă în stilul de luptă corp la corp, ci au un caracter de distanțare. Distanțarea face lupta mai ușoară pentru soldați și implicit pot fi înrolați mai mulți candidați, candidați care nu ar fi avut nicio șansă de înrolare dacă ar fi fost selectați după criteriul de luptă, corp la corp. Dacă mergem pe această axă a evoluției tehnologiilor armelor, putem anticipa în lumina dezvoltării programelor de computer AI, că războiul viitorului va avea cel puțin un caracter hibrid între oameni și AI sau chiar total autonom AI.

În prezent, toate armatele lumii au la bază omul – aspect care, în general, este un impediment. Cine nu își dorește o mașinărie de război care să nu aibă unele caracteristici umane de război (frică, ezitare, dubii, oboseală etc)? Inteligența artificială are capacitatea de a înlocui factorul uman într-o armată și poate chiar perfecționa aceste roluri. Se pot crea nave de război, avioane, drone, tancuri și alte mașini, care pot fi navigate și pilotate fără echipaj și de la distanță. Toate aceste avantaje sunt de-a dreptul fantastice, însă ele vin cu un cost.

Putem face un mic exercițiu de speculație în vederea ramificațiilor problematice ale tehnologiei AI:

1. Un program AI poate fi codat cu o moralitate șubredă sau chiar o lipsă a vreunei moralități. Un program software AI care este implementat într-o armată și care se află în situația în care trebuie să avanseze într-un teritoriu inamic, poate cu ușurință eradica un oraș de civili, nu pentru că l-ar detecta ca fiind un pericol sau că ar avea un sentiment de „răutate” față de oraș, ci doar pentru simplul fapt că este în calea sa. Așadar, un program de AI dezvoltat, dacă nu are în arhitectura inițială niște piedici morale setate de către programator, el nu va putea distinge o acțiune „rea” de una „bună”, ci scopul lui va fi acela de a îndeplini țelul său prin cel mai eficient mod posibil. Se poate ajunge în situația în care eradicarea umanității să fie un mod eficient pentru a-și atinge scopul final.
2. Tehnologia inteligenței artificiale este în prezent dezvoltată de mai multe țări precum: SUA, China, Germania, Japonia, Marea Britanie etc; iar unele dintre ele, precum China, au și un minister AI în interiorul guvernului. Se poate ajunge într-o situație în care în viitor, armatele și sistemele de apărare ale acestor țări vor fi automatizate cu tehnologie AI, iar în cazul în care aceste sisteme vor fi puse să reacționeze la anumite scenarii de criză, un război se poate declanșa automat în decursul a câtorva zile.
3. În momentul de față există o cursă pentru dezvoltarea și implementarea acestei tehnologii în domeniul militar, iar națiunea care va trece prima, linia de finish în aplicarea acestei tehnologii, cu siguranță își va securiza poziția pe glob ca super-putere. Chiar mai rău, dacă avansul va fi realizat cu mult înaintea celorlalte națiuni, se poate crea o situație de debalansare a puterii globale în care națiunile mici își vor pierde autonomia, celelalte națiuni vor căuta negocieri, iar unele națiuni vor supraveghea tensionate situația cu degetul pe butonul nuclear.
4. Chiar dacă sistemele militare de AI vor fi programate în așa măsură ca să aibă o moralitate solidă și să nu iasă de sub controlul uman direct sau indirect, problema constă în ușurința cu care se poate executa o acțiune letală de la o distanță considerabil de mare. Dacă în antichitate, luptele erau corp la corp, iar executarea unui inamic era o acțiune foarte personală făcută de către învingător, în ziua de astăzi, exista o corelație directă (dovedită științific) între distanța și ușurința cu care se ucide un „dușman”. Sistemele de luptă AI vor oferi o ușurință atât de mare de a declanșa acțiuni letale din spatele unor monitoare, încât chiar dacă în spatele acestora se vor situa niște persoane cu o moralitate ireproșabilă, într-o situație de panică/impulsie/criză, ele pot fi executate pripit. Potențialul de abuz crește proporțional cu ușurința utilizării acestei tehnologii.
5. Un aspect important pe care această tehnologie militară AI îl oferă este acela de a centraliza puterea. În prezent, indicațiile și deciziile militare luate de către un lider trebuie să fie executate de generalii lui, care la rândul lor trimit ordinele în josul ierarhiei până la ultimul soldat. De fiecare dată când un ordin este dat, el trebuie să fie executat de către ofițerul mai jos în rang, dar cu toate acestea ofițerul poate refuza ordinul în pofida represaliilor. Așadar în armata actuală, orice decizie luată de un grad înalt trebuie să treacă prin ierarhie, ierarhie care încetinește orice impulsivitate și care filtrează într-o oarecare măsură orice decizie inumană, cu riscurile de rigoare.

Dacă în viitor, se va înlocui sistemul militar prezent cu un sistem robotizat, aceste bariere ierarhice vor fi diminuate în așa măsură, încât se poate ajunge într-o situație în care o mână de oameni vor dirija toate acțiunile militare. Astfel, există posibilitatea să apară un scenariu în care aceste sisteme cad în mâinile unor tirani de calibrul lui Hitler sau Stalin și atunci voința lor va fi pusă în acțiune în totalitate, fără niciun impediment.

CUM NE PUTEM APĂRA DE CONTROLUL UNEI INTELIGENȚE ARTIFICIALE?

În concluzie, tehnologia Inteligenței Artificiale pare a fi o chestiune inevitabilă și nimeni nu poate prezice cu certitudine cum vor evolua lucrurile. Din fericire, comparativ cu dezvoltarea bombei nucleare care a fost făcută discret, acest subiect este destul de dezbătut în mediul public/online și există un număr consistent de voci importante care ridică aceste probleme. Inteligența artificială este tehnologia viitorului care va revoluționa în mod pozitiv, dar și în mod negativ tot pământul.

Este absolut necesar să fim informați despre toate implicațiile și demersurile acestei tehnologii și să fim la curent cu ele. Un mod personal de a ieși din aceste predicții pe care sistemele AI se bazează este ca fiecare dintre noi să devină o persoană proprie care nu se lasă condusă de instincte, instincte după care vasta majoritate a umanității operează. Hristos a fost atipic când a venit vorba de acțiunile Sale în nenumărate instanțe. A făcut ceea ce este greu și just și nu ceea ce era de așteptat sau „normal”. El și-a înfruntat chiar și instinctul de conservare când ispitit fiind de Petru să-și salveze viața (Matei 16:22: „Și Petru, luându-L la o parte, a început să-L dojenească, zicându-I: «Fie-Ți milă de Tine să nu Ți se întâmple Ție aceasta»”), Hristos i-a răspuns: „Mergi înapoia Mea, satano! Sminteală Îmi ești; că nu cugeți cele ale lui Dumnezeu, ci cele ale oamenilor”. Putem spune că Petru a acționat normal și instinctiv, deci după tiparul omenesc, dar Hristos a acționat după tiparul divin.

Tehnologizarea AI a armatei și a armamentelor pare a fi un proces ireversibil. Combaterea acestei tehnologizări pe plan mondial pare a fi în zadar. Însă, în zona publică se poate pune presiune pe guverne și corporații să asigure implementarea unei etici umane, astfel încât această tehnologie să fie aplicată prin consultarea societății civile și nu doar prin decizia câtorva indivizi.

(Articol publicat în Revista Atitudini Nr. 78)