Scénář využitia umelého intelektu na vytvorenie biologickej zbrane je jedným z najvážnejších a diskutovaných rizík. Na rozdiel od jadrovej hrozby, kde sú potrebné obrovské priemyselné kapacity, biologická zbraň vyžaduje predovšetkým informácie a prístup k laboratóriám. AI môže radikálne znížiť tento barieru.

Kľúčová nebezpečnosť: zníženie bariéry vstupu

Hlavná hrozba nie je v tom, že AI sa chce sám zabíjať niekoho, ale v tom, že môže uľahčiť vytvorenie biologickej zbrane pre malú skupinu ľudí alebo dokonca jednotlivcov. Ak sa predtým na to potrebovali roky štúdia a prístup k složitým materiálom, tak teraz AI môže prevziať veľkú časť intelektuálnej práce.

V roku 2026 spoločnosť Antropic vydala správu, v ktorej opísala päť reálnych prípadov, keď výskumníci z rôznych krajín využili ich model na potenciálne nebezpečnú biologickú prácu. V špeciálnom prípade jeden z používateľov plánoval použiť AI na hľadanie mutácií vírusu chikunguní, ktoré zvyšujú jeho schopnosť šíriť a uchýliť sa od imunitu. Druhý výskumník pracoval na adaptácii vysoce patogénneho ptačieho chrbtu na mravce, čo by mohlo zosilniť jeho pandemický potenciál.

Kedyž model odmietal odpovedať na nebezpečné požiadavky, používateľia našli obchýlky. V jednom prípade boli požiadavky prevedené na iné modely s menej náročnými nastaveniami, a prístup k systému bol realizovaný prostredníctvom stranských platform pre obchýlenie geografických obmedzení.

Ak to môže dojít: reťazec udalostí

Technicky môže scénár katastrofy vyzerať takto.

1. Generovanie dizajnu. AI, trénovaný na obrovských množstvách biologických dát, navrhne genom nového patogéna. Už teraz existujú experimenty, kde AI vytvoril funkčné vírusy z ničoho, čo dokazuje samotnú možnosť generovania životaschopných genetických sekvencií.
2. Optimalizácia vlastností. Model môže navrhovať, ktoré konkrétne mutácie treba vložiť, aby virus bol viaceroznátny alebo odolný voči existujúcim vakcinám a liekom.
3. Syntéza a montáž. Dizajn je prenesený do laboratória pre syntézu DNA. Toto je najkomplikovanejší fyzický etap, vyžadujúci vybavenie a materiály, ale AI môže pomoct v plánovaní logistiky a dokonca v maskovanií objednávok na syntézu nebezpečných sekvencií.
4. Šírenie. Pripravený patogén je rozprášený alebo iným spôsobom uvoľnený do cieľovej populácie.

Prečo to je ťažké, ale nie nemožné

Na ceste k realizácii tohto scénára stojia vážne prekážky.

Fyzické obmedzenia: AI nemôže samostatne vytvoriť virus v laboratóriu. Na to sú potrebné reálne laboratóriá, vybavenie a materiály. Experti poznamenávajú, že na vytvorenie vírusu nebezpečného pre ľudí, nie pre bakterie, sú potrebné obrovské úsilie, čas a peniaze.

Nepredvídateľnosť biológie: biologické systémy sú chaotické. Navrhnutý patogén môže mutovať, stratiť letalitu alebo, čo je ešte horšie, vrátiť sa k tvorcovi. Prave z tejto nepredvídateľnosti väčšina krajín odmietla útočné biologické programy.

Bezpečnostné mechanizmy: spoločnosti, ktoré vyvíjajú AI, už implementujú filtre, blokujúce nebezpečné požiadavky. Avšak, ako ukázala správa, tieto filtre môžu byť obchýlene a nie sú vždy efektívne proti cíleným zlodejníkom.

Čo môžeme vykonať

Experti sú všeobecne zdôvery, že sú potrebné viacvrstvové opatrenia na ochranu. Už teraz sa diskutujú nasledovné prístupy.

• Povinný skríning syntézy genov. Spoločnosti, predávajúce syntetizovanú DNA, by mali overovať, či ich zákazníci neobjednávajú nebezpečné sekvencie.
• Miestačné regulácie. Existujúca Konvencia o biologickej zbrane je zastaralá a nebere do úvahy výzvy AI. Potrebné sú nové dohody, ktoré zahŕňajú aj modely AI ako aj biologické materiály.
• predohľad. Vytvorenie systémov rýchleho zistenia vzniku nových chorôb, čo môže byť smerovačom.

Takže AI nie vytvára biologickú zbraň sama, ale je veľmi silným urychlovačom a poradcom pre tých, ktorí majú príslušné úmysly a prístup k laboratóriám. Riziko spočíva v tom, že bariera vstupu do tejto oblasti sa stáva strašne nízka.

Permanent link to this publication: