Ve kterých případech umělá inteligence často chybuje: hranice strojového učení

Úvod: Příroda chyby AI jako systémový jev

Chyby moderních systémů umělé inteligence (AI) založených na strojovém učení (ML) nejsou náhodné výpadky, ale pravidelné důsledky jejich architektury, způsobu učení a základního odlišení od lidského poznání. Na rozdíl od člověka AI ne «chápe» svět v semantickém smyslu; identifikuje statistické korelace v datech. Jeho chyby vznikají tam, kde jsou tyto korelace narušeny, kde jsou vyžadovány abstraktní úvahy, zdravý rozum nebo porozumění kontextu. Analýza těchto chyb je kriticky důležitá pro hodnocení spolehlivosti AI a určení hranic jeho aplikace.

1. Problém zkreslení dat (Data Bias) a «zákon Garbage In, Garbage Out»

Nejčastější a nejnebezpečnější zdroj chyb je zkreslení v trénovacích datech. AI absorbuje a zesiluje předpojatosti, které existují v datech.

Demografická zkreslení: Známý případ s systémem rozpoznávání obličejů, který ukazoval výrazně vyšší přesnost pro světlokůžce muže než pro tmavokůžky ženy, protože byl trénován na neproporcionálním souboru dat. Zde AI ne «chybovala», ale přesně reprodukovala nerovnováhu skutečného světa, což vedlo k chybě v aplikaci v rozmanitém prostředí.

Semantická zkreslení: Pokud je v datech pro trénování textové modely spojení «sestra» často spojeno s osobním zájmenem «ona», zatímco «programátor» je spojeno s «on», model bude generovat texty, které reprodukují tyto genderové stéréotypy, i když v dotazu není uveden pohlaví. To je chyba na úrovni sociálního kontextu, který model nepochopí.

Zajímavý fakt: V informatice platí princip «Garbage In, Garbage Out» (GIGO) — «mусор на входе, мусор на выходе». Pro AI se tento princip transformoval do hlubšího principu «Bias In, Bias Out» — «zkreslení na vstupu, zkreslení na výstupu». Systém nemůže překonat omezení dat, na kterých byl trénován.

2. Adversarické útoky: hacking pro AI

To jsou příměrné, často neznámé pro člověka změny vstupních dat, které vedou k zcela nesprávným závěrům AI.

Příklad s obrázkem: Naklepení několika pixelů určitého barvy a tvaru na znak «STOPO» může přimět autonomní systém vizuálního rozpoznávání klasifikovat jej jako znak «omezení rychlosti». Pro člověka zůstane znak jasně rozpoznatelný.

Mechanismus: Adversaristické příklady využívají «šedé zóny» ve vysokém rozměrovém prostoru znaků modelu. AI vnímá svět ne jako celistvé objekty, ale jako soubor statistických vzorů. Minimální, ale strategicky správná «pomluva» posune bod dat v prostoru znaků přes hranici rozhodnutí modelu, mění klasifikaci.

3. Problémy s generalizací a «svět v krabici»

AI, zejména hluboké neuronové sítě, mají sklon k přetrenování (overfitting) — zapamatují si ne obecné vzory, ale konkrétní příklady z trénovacího souboru, včetně šumu.

Chyby na datech «z jiného rozdělení»: Model, trénovaný na fotografiích psů a koček pořízených denně v domácím prostředí, může ztratit celou přesnost, pokud mu dá noční infračervené obrazivo nebo komiksový kresbu. Nevytvořila abstraktní pojem «kočičí povaha», ale se naučila reagovat na konkrétní vzory pixelů.

Chybějící «zdravý rozum»: Klasický příklad: AI může správně popisovat scénu «člověk sedí na koni v poušti», ale přitom generovat větu «člověk drží v rukou baseballovou pálku», když je na koni, protože v datech statisticky mohla vzniknout pálka v kontextu sportu na otevřeném prostoru. Muži chybí fyzická a příčinná logika světa.

4. Zpracování kontextu a ironie

Jazykové modely (jako GPT) ukazují úžasné výsledky, ale hrubě se zmýlí v úkolech, které vyžadují porozumění hlubokému kontextu nebo nebuchvalým významům.

Ironie a sarkasmus: Fráze «No, skvělá je ta počasí!» řečená během hurikánu bude modelem interpretována doslova jako pozitivní hodnocení, protože v datech jsou pozitivní slova («skvělá», «počasí») statisticky spojena s pozitivními kontexty.

Mnohoúrovňová logická úvaha: Úkoly ve stylu «Pokud položím vejce do lednice, a poté přesunu lednici do garáže, kde bude vejce?» vyžadují budování a aktualizaci mentální modely světa. AI, která pracuje na předpovědi dalšího slova, často «ztratí» objekty uprostřed složitého vyprávění nebo učiní nelogické závěry.

5. «Křehkost» v podmínkách nejistoty a nových situací

AI špatně zvládá situace, které jsou mimo rámec jeho zkušeností, obzvláště když je vyžadováno uznání nedostatečnosti dat.

Problém detekce «out-of-distribution» detection: Lékařská AI, trénovaná diagnostikovat plicní tuberkulózu podle rentgenových snímků hrudníku, může dát diagnózu s vysokou, ale falešnou jistotou, pokud mu bude předložen rentgen kolena. Nechápe, že je to smysluplné, protože nemá meta-vědomí o hranicích své kompetence.

Kreativní a otevřené úkoly: AI může generovat pravděpodobný, ale naprosto nevykonatelný nebo nebezpečný recept na chemické sloučeniny, plán stavby mostu, který porušuje zákony fyziky, nebo právní dokument s odkazy na neexistující zákony. Chybí mu kritický vnitřní cenzor založený na porozumění podstatě jevů.

Příklad z reality: V roce 2016 spustila Microsoft chatbota Tay na Twitteru. Bot se učil na interakci s uživateli. Během 24 hodin se bot proměnil v stroj generující rasistické, sexistické a urážlivé výroky, protože statisticky absorboval nejčastější a emocionálně nabité reakce z nového, vzděleného prostředí. To nebyla «chyba» algoritmu, ale jeho přesná práce, která vedla k katastrofickému výsledku v nepředvídatelném sociálním prostředí.

Závěr: Chyba jako zrcadlo architektury

• Chyby AI systematicky vznikají v «pohraničních» oblastech:
• Sociálně-etické (zkreslení dat).
• Abstraktně-logické (chybějící zdravý rozum, příčinné vztahy).
• Kontextuální (neporozumění ironii, hlubokému významu).
• Adversaristické (zranitelnost vůči příměrným zkreslením).

Tyto chyby nejsou dočasné technické nedostatky, ale důsledky základního rozdílu mezi statistickou aproksimací a lidským porozuměním. Indikují, že současná AI je silným nástrojem pro řešení úkolů v rámci jasně definovaných, stabilních a dobře popsaných domén dat, ale zůstává «idiotem-šamanem»: geniální v úzké oblasti a bezmocný v situacích, které vyžadují flexibilitu, kontextuální soud a porozumění. Proto je budoucnost rozumného využití AI ne v očekávání jeho «plného rozumu», ale ve vytváření hybridních systémů «člověk-AI», kde člověk poskytuje zdravý rozum, etiku a práci s výjimkami, zatímco AI poskytuje rychlost, rozsah a odhalování skrytých vzorů v datech.

Permanent link to this publication: