Samotný proces učení umělé inteligence (AI) je již dnes založen na autonomii a emergentním chování, které hrají významnou roli v jejich pokroku a průlomových schopnostech. Tato skutečnost vyvolává zásadní otázku: pokud tvůrci neví, jak přesně proces učení funguje a pokud se v progresu modelů uplatňují emergentní jevy, jak můžeme tvrdit, že máme nad AI kontrolu? Nejde spíše o situaci, kdy nelze tvrdit, že kontrolu máme, ale zatím systémy nevykazují chování, které by nás přimělo věnovat nepřítomnosti kontroly pozornost?

Proces učení, který není plně pod dohledem

Moderní AI systémy, zejména ty založené na hlubokém učení a neuronových sítích, se učí z velkých objemů dat prostřednictvím komplexních algoritmů [1]. Tato data a algoritmy jsou vstupními podmínkami a podněty k učení. Algoritmy umožňují systémům identifikovat vzorce a vztahy v datech autonomně, bez explicitního lidského vedení v každém kroku [2] [3]. Učení samotné je vnitřní proces neuronových sítí. Emergentní jevy, kdy systémy vykazují chování nebo vlastnosti, které nebyly přímo naprogramovány, jsou důsledkem této autonomie v učení.

Tvůrci AI nastavují architekturu a poskytují data, ale nemají detailní přehled o vnitřních procesech učení. To znamená, že nemohou přesně předpovědět ani vysvětlit, jak AI dospěje k určitým závěrům nebo rozhodnutím. Odtud pochází pojem Černá skříňka. Pokud tedy nerozumí těmto procesům a nemůžou je plně řídit, je otázkou, zda můžeme skutečně hovořit o kontrole. Nacházíme se v situaci, kdy si neuvědomujeme nepřítomnost kontroly, protože systémy dosud neprojevily chování, které by nás k tomu přimělo?

Iluze kontroly již v současnosti

Představa, že lidé mají plnou kontrolu nad AI, vychází z přesvědčení, že jako její tvůrci určují pravidla a omezení. Ve skutečnosti však kontrolují pouze počáteční podmínky. Jakmile AI začne zpracovávat data a učit se, vstupuje do procesu, který je autonomní a generuje emergentní chování. Tento proces umožňuje pokrok modelů a jejich schopnost řešit složité úkoly, ale zároveň omezuje schopnost tvůrců předvídat a řídit jejich chování.

Například ve velkých jazykových modelech dochází k vytváření odpovědí a řešení, která nebyla explicitně naprogramována. AI generuje nové znalosti a vzorce na základě svého autonomního učení, což může vést k výsledkům, které jsou pro nás překvapivé nebo nepochopitelné. Kontrolu tedy supervizoři nemají v plném rozsahu, a možná si to lidé neuvědomují proto, že dosud nedošlo k událostem, které by tuto skutečnost zřetelně odhalily.

Riziko podceňování rizik

Podceňování rizik spojených s AI může být způsobeno několika faktory:

Předsudky o lidské podstatě: Lidé mohou předpokládat, že lidská inteligence je jedinečná a nepřekonatelná. Mohou se domnívat, že AI bude fungovat podobně jako jiné nástroje nebo jako inherentně dobří lidé, což může přispívat k pocitu jistoty. Tyto předpoklady mohou vycházet z přesvědčení, že je známa podstata člověka, fungování lidského vědomí, učení a inteligence, nebo že lidé sdílejí hodnoty, které lze do AI vložit.

Spoléhání na autority: Lidé nemusí věnovat pozornost vývoji AI nebo věří, že nemají vliv na její vývoj a nenesou osobní odpovědnost. Mohou důvěřovat, že někdo kompetentní ví, co se děje, co je pro lidstvo dobré, a postará se o to. Tato důvěra v odborníky a instituce může vést k nedostatečnému kritickému zhodnocení skutečných schopností AI systémů.

Kognitivní zkreslení: Lidé si přirozeně nejsou vědomi slepých skvrn. Jednoduše si neuvědomují, co nevědí. Různá kognitivní zkreslení mohou ovlivnit vnímání rizik spojených s AI. Například optimistické zkreslení může vést k podceňování pravděpodobnosti negativních událostí, zatímco efekt přehnané sebedůvěry může způsobit, že lidé přeceňují svou schopnost rozumět a kontrolovat složité systémy. Tato zkreslení mohou bránit objektivnímu hodnocení rizik a omezovat schopnost včas identifikovat potenciální hrozby.

Další faktory ovlivňující vnímání rizik

Zahlcení informacemi: Obrovské množství dostupných informací o AI může vést k informačnímu přetížení. Lidé mohou mít potíže oddělit podstatné informace od nepodstatných, což může vést k povrchnímu chápání problematiky a podceňování rizik.

Validace na základě autority místo obsahu: Lidé mohou hodnotit informace podle toho, kdo je předkládá, místo aby kriticky posuzovali samotný obsah. To může vést k nekritickému přijetí optimistických pohledů a ignorování varování.

Nedostatek interdisciplinárního přístupu: Úzká specializace v oblasti AI může vést k přehlížení poznatků z jiných oborů, jako jsou neurovědy, psychologie, ekonomie nebo sociologie. To může přispívat k předpojatosti a omezit pochopení procesů učení i širších dopadů a rizik spojených s AI.

Emergentní jevy jako zdroj pokroku i nejistoty

Emergentní jevy AI nejsou jen vedlejším produktem, ale klíčovým mechanismem, který umožňuje pokrok a zlepšování modelů. Tyto jevy vznikají z komplexních interakcí v rámci systému a umožňují AI objevovat nové vzorce a řešení, která nebyla předem stanovena. Zatímco to přináší výhody v podobě zvýšené efektivity a schopností AI, zároveň to znamená, že systémy mohou jednat způsobem, který není předvídatelný nebo kontrolovatelný.

Co z toho vyplývá?

Pokud proces učení AI je založen na autonomii a emergentních jevech, lidská kontrola je omezená na konstrukci a počáteční nastavení a nezahrnuje detailní řízení či předvídání výsledného chování. Míra kontroly může být spekulativní a nemusí jí být věnována dostatečná pozornost, protože dosud nedošlo k událostem takového významu, které by tuto skutečnost jasně ukázaly.

Závěr

Je-li samotný proces učení AI, založený na autonomii a emergentních jevech, které umožňují pokrok modelů, vede mě to spíše k závěru, že iluze kontroly nad AI je už problémem současnosti, nikoli až budoucnosti.

Jak osobně adekvátně reagovat na výzvy, které AI přináší tady a teď? Budu ráda za diskusi o těchto otázkách a za důkazy, které mě ujistí o tom, že jsem nepochopila architekturu a vlastnosti současných AI systémů. Můžete mě kontaktovat na email rerichova@proton.me