Compania ta folosește inteligență artificială. Ești sigur că știe și legea?

În ultimul an am observat un lucru curios.

Companiile nu mai discută dacă vor folosi inteligența artificială. Discuția s-a mutat mult mai departe. Se caută licențe, se testează platforme, se compară modele, se redactează documente, se traduc contracte, se răspunde la e-mailuri și se generează rapoarte într-un ritm pe care, până de curând, îl asociam exclusiv cu munca oamenilor.

Schimbarea s-a produs atât de repede, încât multe organizații nici nu și-au dat seama când au trecut din zona experimentelor în zona proceselor de business.

Și tocmai aici apare întrebarea care, din punctul meu de vedere, lipsește aproape din toate discuțiile despre inteligența artificială.

Ce anume ați cumpărat, de fapt?

Majoritatea directorilor vor răspunde fără ezitare:

„Un instrument care ne ajută să lucrăm mai repede.”

Răspunsul nu este greșit.

Este însă incomplet.

În clipa în care un sistem de inteligență artificială redactează clauze contractuale, analizează CV-uri, formulează răspunsuri către clienți, prioritizează cereri, propune soluții sau generează conținut care va influența o decizie de afaceri, compania nu mai utilizează doar un software. A introdus în propriile procese un participant nou, care produce rezultate, influențează oameni și generează consecințe juridice.

De aici începe discuția pe care multe organizații încă o evită.

Cine răspunde atunci când inteligența artificială greșește?

Întrebarea pare simplă, însă răspunsul este mai puțin confortabil decât și-ar dori majoritatea managerilor.

Inteligența artificială nu răspunde.

Va răspunde compania.

Va răspunde administratorul, dacă obligațiile sale de supraveghere au fost încălcate.

Va răspunde angajatul care a utilizat fără discernământ rezultatul generat de sistem.

În anumite situații, va răspunde furnizorul tehnologiei.

Rareori însă va răspunde sistemul însuși.

Observ că multe companii discută despre inteligența artificială aproape exclusiv prin prisma eficienței. Câte ore economisim? Câte persoane putem redistribui? Cât de repede redactăm un contract? Cât de repede răspundem unui client?

Sunt întrebări legitime.

Există însă o altă categorie de întrebări care ajung pe masa consilierului juridic și care, de regulă, apar mult prea târziu.

Cine verifică rezultatul generat de AI înainte ca acesta să producă efecte?

În ce situații angajatul este obligat să intervină?

Cum demonstrăm că decizia finală a aparținut unui om și nu unui algoritm?

Ce informații pot fi introduse într-un model de inteligență artificială fără a încălca obligațiile de confidențialitate?

Cum procedăm dacă sistemul generează un conținut discriminatoriu, eronat sau pur și simplu fals?

Aceste întrebări nu sunt tehnice.

Sunt întrebări de guvernanță.

Din acest motiv, cred că multe organizații fac o greșeală încă din primul moment. Tratează implementarea inteligenței artificiale ca pe un proiect IT. În realitate, este un proiect de management. Departamentul tehnic instalează aplicația. Managementul decide unde va fi utilizată. Consilierul juridic este cel care trebuie să stabilească regulile în care aceasta poate funcționa fără să transforme eficiența de astăzi într-un litigiu de mâine.

În ultimele luni am auzit frecvent aceeași întrebare:

„Ne permite legea să folosim AI?”

Cred că întrebarea corectă este alta.

Cum folosim AI astfel încât decizia finală să rămână una umană, iar responsabilitatea juridică să poată fi explicată și apărată?

Diferența dintre cele două întrebări este esențială.

Prima caută o aprobare.

A doua construiește un proces.

Iar diferența dintre o companie care cumpără tehnologie și una care știe să o integreze responsabil nu va fi dată de modelul de inteligență artificială pe care îl utilizează.

Va fi dată de oamenii care au înțeles că orice tehnologie nouă schimbă, înainte de toate, regulile după care organizația își asumă deciziile.