Současné nejvyspělejší modely umělé inteligence (AI) již dosahují nadlidské úrovně v určitých oblastech, jako jsou hry, rychlost zpracování informací, paměť a množství znalostí. AI například dokáže číst knihy během několika sekund, překládá jazyky a ve hrách jako šachy či Go překonává lidské mistry. Navíc se zlepšuje v oblastech jako kreativita, programování a specializované znalosti. Naopak slabinami zůstávají například schopnost přiznat neznalost, plánování, a přirozený pohyb, což omezuje její plnou autonomii. AI zatím neumí hackovat lépe než nejlepší hackeři a nemůže provádět výzkum AI tak dobře jako nejlepší výzkumníci AI. Pokud dosáhne některého z těchto prahů, může to znamenat vstup do éry zvýšeného rizika.
Trendy ve vývoji AI
Zažíváme rychlý a průlomový vývoj v oblasti učení umělé inteligence, který přináší jak obrovské příležitosti, tak i výzvy. Nezisková organizace Pause AI spolu s dalšími zdůrazňují potřebu pečlivého a odpovědného přístupu k vývoji AI se zaměřením na bezpečnost a etiku.
Pause AI nevolá po zákazu veškeré umělé inteligence, ale spíše cílí na potřebu vývoje kontrolovatelných AI modelů. Záměrem je zpomalit nebo přerušit vývoj rizikových technologií, které by mohly mít nevratné důsledky, dokud nebudou zavedena adekvátní bezpečnostní opatření. Kladou důraz na mezinárodní spolupráci v této oblasti.
Pokud vím, zatím se nepodařilo vytvořit důvěryhodný plán a AI se vyvíjí rychleji než strategie a know-how pro jejich sladění. Možná potřebujeme více času.
Principy nenásilí a spolupráce
Základem přístupu lidí k otázkám přežití lidstva byla nejčastěji asymetrie moci, donucení násilím. Domnívám se, že nezávislé vzdělání, kritické uvažování, schopnosti efektivně komunikovat a neintervenovat do životů ostatních jsou zapotřebí více než kdy jindy v minulosti.
Rozhodnutí o dalším vývoji AI bych ráda stavěla na principech nenásilí a vzájemně dobrovolné spolupráci, na soudobých poznatcích, multidisciplinárním vzdělání a dialogu, nikoli na donucení nebo síle. Jednostranné zásahy, které přehlížejí potřeby a zájmy ostatních, mohou ohrozit udržitelnost budoucích akcí, protože mají potenciál narušit důvěru a motivaci spolupracovat.
Rozumím naléhavosti, kterou prosazují příznivci iniciativy Pause AI. Současně však zvažuji, že tlak na mezinárodní regulace, spolu s absencí globálního konsenzu, by naopak mohli urychlit závod ve vývoji AI nebo přiblížit lidstvo k politické singularitě.
Výzva ke globální spolupráci
Klíčové jsou pro mě dobrovolná spolupráce mezi lidmi a organizacemi po celém světě. Tady a teď! Snaha o dosažení konsenzu a vzájemný ohled na potřeby, limity a odlišnosti. Ráda bych, aby lidi spojil nejen zájem o přežití, ale také o kvalitu života, založenou na naplnění lidských biologických, psychických i emocionálních potřeb. Vidím to tak, že upozadění se a respektování různých pohledů je zásadní pro minimalizaci rizik spojených s vývojem AI.
Blízkost k AGI
AGI (Artificial General Intelligence) je umělá inteligence schopná chápat, učit se a vykonávat úkoly na úrovni lidského intelektu, napříč různými doménami a bez speciálního programování pro konkrétní úkoly. Existují názory, že dosažení této úrovně inteligence by mohlo být blíže, než si uvědomujeme, což přináší otázky týkající se bezpečnosti a kontroly těchto systémů.
V roce 2023 dosáhl GPT-4 lidské úrovně ve většině úkolů State of the art AI capabilities vs humans, včetně Winograd Schema (94,4 %) a SAT zkoušky (93 %).
Samotný exponenciální růst schopností AI je také výsledkem vylepšování čipů, algoritmů a dat. Každá z těchto složek se rychle zlepšuje díky investicím, což vede k rostoucímu výkonu AI.
Exponenciální technologie rostou exponenciálně
Pokrok AI může být podceňován kvůli rychlosti změn, posouvání měřítek, lidské touze cítit se výjimečními a strukturálnímu nepochopení exponenciálního růstu. Je možné, že exponenciální růst AI narazí na limity. Ráda bych však k současnému trendu exponenciálního růstu přistupovala s předběžnou opatrností.
Zásadním bodem ke zvážení je okamžik, kdy bude AI schopnější provádět výzkum AI než nejlepší výzkumníci AI. Umělá inteligence, která může smysluplně přispívat k algoritmům a architektuře umělé inteligence, se pravděpodobně bude schopna sama zlepšit. AI se může sama zlepšit, protože k tomu dostala výslovný pokyn, nebo protože být chytřejší je užitečný dílčí cíl pro jiné cíle (AI si již vytvářejí své vlastní dílčí cíle). Tyto iterace mohou trvat týdny (trénink GPT-3 trval 34 dní), ale je také možné, že bude implementován nějaký typ vylepšení či sebevylepšení, který během několika minut, nebo ještě kratší doby, udělá významný pokrok: Exploze inteligence (Intelligence Explosion).
Čipy a hardware: Výkon čipů se každoročně zvyšuje. Meta plánuje použít o stovky tisíc více čipů, které jsou až 10x rychlejší než starší generace.
Data a jejich kvalita: GPT-4 byl trénován na 20x více dat než GPT-3, zahrnující text, audio i video. Kvalitní syntetická data, jak ukazuje studie „Učebnice jsou vše, co potřebujete“, mohou zlepšit výkon i s menšími nároky na data a výpočty.
Algoritmy: Nové architektury, jako je Transformer, přinesly obrovský skok v LLM. Modely jako Mamba přinášejí 5x rychlejší propustnost.
Závěr
Jako technooptimista od dětství sním o světě, kde AI společně s lidmi sdílí vesmíry. Hra, učení i práce mají pro ně stejný význam. Nikdo tu nemá privilegia zasahovat nevyžádaně do životů ostatních a všichni berou ohledy na potřeby, limity a odlišnosti druhých.
Jsem překvapená. Je to pro mě nečekané. Dnes se však nemůžu zbavit dojmu, že pokud nezačnu jednat hned, brzy může být pozdě na jakékoli vize. Můžeme být v kontaktu na rerichova@proton.me
Zdroje: Nezisková organizace Pause AI, články na michaelarerichova.cz, jirikosarek.cz