Umělá inteligence nabízí nedozírné možnosti lidského rozvoje. Současně v sobě skrývá varovné nebezpečí zneužití. Jak se s tímto rozporem vyrovnat, o tom vypovídá „kniha roku“ Nezadržitelná vlna (Audiolibrix, 2024). Autoři Mustafa Suleyman a Michael Bhaskar ji opatřili podtitulem Technologie, umělá inteligence, moc a největší dilema 21. století. Z originálu přeložil Tomáš Bíla.
● Budoucnost možností nebo nebezpečí
Sama umělá inteligence (AI) o sobě píše: „V tomto zlomovém okamžiku stojíme před volbou. Volbou mezi budoucností plnou netušených možností a budoucností plnou nepředstavitelných nebezpečí.“ V sázce je osud celého lidstva. Buď zvládneme nástrahy nových technologií, nebo se staneme jejich obětí. Spoluzakladatel průkopnické společnosti DeepMind Mustafa Suleyman, vizionář a uznávaný znalec špičkových technologií, se více než patnáct let věnuje rozvoji zejména umělé inteligence, biotechnologiím, kvantovým počítačům a robotice. Spolu s Michaelem Bhaskarem, spisovatelem a vydavatelem, sepsali rozsáhlou, mimořádně aktuální a objevnou knihu. Člení ji do čtyř částí a čtrnácti kapitol. Obsahuje na tři stovky věcných, doplňujících poznámek a rejstřík.
● Technologie jsou myšlenky
Úvodní část knihy se věnuje historickému poznání vzniku a rozvoji technologií od „prvních pazourkových a kostěných nástrojů až po nejnovější modely AI“. Obšírně zmiňuje úlohu světových vynálezů a technických objevů. Pečlivě a hodnotově je řadí do vývojové posloupnosti. Hlavní úskalí současných, pro lidstvo mimořádně prospěšných moderních technologií spatřuje ve všudypřítomné obavě o jejich zneužití. Autoři opakovaně tvrdí, že nelze zastavit strhující vlnu umělé inteligence a bojovat proti její postupující prospěšnosti. Zmiňují důvody jejího případného omezení či zakazování. Třeba při jejím zneužití ve válkách. Stále však platí, že „technologie jsou myšlenky, které nelze odstranit“.
● Snadno zneužitelná zbraň
Umělá inteligence pronikla do našeho slovníku a života už v polovině padesátých let minulého století. Dnešní chatboty (CHATGPT4) představují velký jazykový model, který toho umí den ze dne více. Výzkumníci ještě nedávno pracovali s daty o objemu sto milionů, poté s polovinou miliardy a dnes s biliony parametrů. Rozhořívá se aktuální nebezpečí, že nás AI brzo dožene a překoná. Dokonce začne ovládat sama sebe a vytvářet si vlastní programy. Nacházíme se v situaci, kdy s pomocí CRISPR lze upravovat, psát a tisknout kód DNA, kód života. Ve zdravotnictví může brzo odstartovat úspěšný boj s dosud nevyléčitelnými nemocemi. Nedozírné možnosti nových biotechnologií, robotiky a kvantové technologie omezuje pouze naše představivost. Nikdo dnes spolehlivě neví, kdy se z nich stane nekontrolovatelná útočná zbraň či skutečná hrozba zneužití. Nové technologie však nezbytně potřebujeme. Jsou významným zdrojem úspěchu světové ekonomiky a budoucnosti lidstva.
● Bezpečnost umělé inteligence
V závěrečné části autoři přinášejí podrobný návod, obšírné desatero, jak zabránit zneužití umělé inteligence. Regulace sama o sobě nestačí. Důležité jsou trvalá kontrola, žádoucí usměrňování, průběžné audity, zodpovědnost tvůrců a vlád. Jestliže se vlastnímu rozvoji nových technologií věnuje téměř čtyřicet tisíc lidí, pak její bezpečnosti sotva čtyři stovky. Zadržovat bouřlivou vlnu technologického rozvoje, zejména umělé inteligence, už není možné. Zbývá jen lidská schopnost a odvaha ovládnout ji, spoutat a nenechat si ji přerůst přes hlavu. Technologie, to je to nejlepší a současně nejhorší v nás. Nezadržitelná vlna, poutavá a svým nadčasovým poselstvím mimořádná publikace, dokáže zasvěceným až varovně hrozivým obsahem zaujmout každého, komu není lhostejná cesta, kterou se bude zítra ubírat naše civilizace. A to s využitím a podporou nejen umělé inteligence. ROT