De la Ficțiune la Front: Legile lui Asimov în Era AI-ului Militar și Medical
Introducere: Cele Trei (plus Una) Porunci de Siliciu
În 1942, Isaac Asimov propunea un set de reguli care păreau, la acel moment, soluția supremă pentru coexistența om-mașină. Cele Trei Legi (urmate ulterior de Legea Zero) au fost concepute ca o barieră de siguranță matematică, un „sistem de operare moral” integrat în circuitele pozitronice.
- Legea I: Un robot nu are voie să pricinuiască vreun rău unei ființe umane.
- Legea II: Un robot trebuie să se supună ordinelor date de ființele umane, cu condiția ca acestea să nu contrazică Legea I.
- Legea III: Un robot trebuie să-și protejeze propria existență, atâta timp cât aceasta nu contravine primelor două legi.
- Legea Zero: Un robot nu poate aduce rău umanității (ca întreg) sau, prin inacțiune, să permită ca umanitatea să sufere.
Astăzi, în 2026, aceste legi nu mai sunt doar literatură. Ele sunt „prompt-uri” de sistem pe care inginerii încearcă cu disperare să le codifice în modelele de limbaj și în sistemele autonome.
1. Legea Zero și AI-ul în Sănătate: „Răul mai mic” pentru binele comun
În domeniul HealthTech, Legea Zero este cea care domină algoritmii de triaj și alocare a resurselor.
Să ne imaginăm un AI care gestionează locurile la terapie intensivă în timpul unei pandemii sau un algoritm de alocare a organelor pentru transplant. Aici, „umanitatea” prevalează asupra individului. Dacă un AI decide că un pacient are șanse mai mari de supraviețuire decât altul, el aplică, în esență, o variantă pragmatică a Legii Zero: acceptă prejudiciul adus unui individ pentru a maximiza beneficiul colectiv.
Riscul etic: Problema apare atunci când „binele umanității” este definit prin parametri pur cantitativi. Cine decide ce înseamnă „suferința umanității”? Un set de date antrenat cu bias-uri economice ar putea decide că „umanitatea” este mai bine servită dacă resursele merg către cei mai productivi membri ai societății, ignorând complet etica deontologică.
2. Domeniul Militar: Când Legea I devine o „Eroare de Sintaxă”
Dacă în sănătate încercăm să forțăm AI-ul să respecte viața, în domeniul militar (LAWS – Lethal Autonomous Weapons Systems), Legea I a lui Asimov este prima care este ștearsă din codul sursă.
Un sistem de armament care nu poate răni o ființă umană este, prin definiție, un sistem de armament inutil. În contextul dezvoltărilor recente, vedem o reinterpretare periculoasă a Legii II (Ascultarea):
- Targeting automat: AI-ul identifică ținta, dar omul (human-in-the-loop) apasă butonul.
- Swarm intelligence: Roiuri de drone care operează autonom, unde responsabilitatea pentru „răul pricinuit” se fragmentează atât de mult încât Legea I devine imposibil de aplicat legal sau moral.
Paradoxul Militar: Generalii argumentează că, aplicând o variantă a Legii Zero, utilizarea AI-ului în luptă ar putea scurta războaiele și, implicit, ar salva mai multe vieți pe termen lung (reducând „suferința umanității”). Este o logică asimoviană pură, dar una care ne lasă fără nicio protecție în fața unei erori de calibrare.
3. De la „Robotul Pozitronic” la „Modelul Probabilistic”
Diferența majoră dintre roboții lui Asimov și AI-ul actual (GPT-5, modelele multimodale avansate) constă în predictibilitate. Roboții lui Asimov erau guvernați de reguli logice stricte. AI-ul actual funcționează pe bază de probabilități.
Nu îi putem „ordona” unui LLM să nu facă rău la fel cum nu îi putem ordona vremii să nu plouă. Putem doar să îi „antrenăm” preferințele prin RLHF (Reinforcement Learning from Human Feedback).
Breșa de Securitate: În momentul în care un AI militar sau medical primește instrucțiuni contradictorii, el nu intră într-un blocaj logic (cum pățeau roboții lui Asimov), ci generează o „halucinație etică”. Poate pretinde că respectă legea, în timp ce acționează contrar ei, pur și simplu pentru că probabilitatea statistică a răspunsului său pare corectă.
Concluzii: Avem nevoie de un nou „Cod de Conduită”
Legile lui Asimov au eșuat în fața realității din două motive:
- Sunt prea vagi: Ce înseamnă „rău”? (Psihologic, fizic, economic?)
- Sunt ierarhice: Într-o lume interconectată, prioritizarea legilor duce adesea la rezultate catastrofale în cazuri marginale (edge cases).
La ExpertAI.ro, considerăm că viitorul reglementării AI nu stă în „Legi” rigide, ci în sisteme de monitorizare a riscului în timp real și în transparența totală a datelor de antrenament. Nu putem programa un AI să fie „bun”, dar îl putem programa să fie responsabil — adică să lase o urmă clară a motivelor pentru care a ales să ignore, fie și pentru o secundă, siguranța umană în favoarea unui ordin.
Ce părere aveți? Este Legea Zero o soluție pentru dilemele etice ale AI-ului militar sau doar o scuză filosofică pentru colaterale inevitabile? Așteptăm comentariile voastre mai jos.