Chtějme lidsky myslet a cítit navždy. Nedelegujme tuto schopnost umělé inteligenci

Mnozí jsme svědky i přímými účastníky prudkého zrychlování rozvoje technologií. Já např. zažila valchu, bubnovou pračku i pračku s rotujícím motorem. Zažila jsem telegraf, kabelový telefon, fax, domácí bezdrátový telefon, těžkou přenosnou Nokii TMF, tlačítkové vysouvací, otevírací a dotykové mobilní telefony.

Dnes mám samozřejmě chytrou placku, tolik nezbytnou pro život v digitalizovaném světě, ve kterém se chvílemi přestávám orientovat, jak je rychlý. Pocity mého zmatku silně umocňuje všudypřítomná umělá inteligence (AI), kterou intuitivně nemám v oblibě, neboť pociťuji její lišáctví, agresivitu a venkoncem i protilidskost, přestože nám (lidstvu) prozatím posluhuje a zpívá. Obávám se však okamžiku bodu zlomu, kdy na lidstvo spadne klec, jak na toho ptáčka.

Že zbytečně straším?

To nemám v úmyslu. Jen tuším, že umělá inteligence není robotek Emílek, nýbrž bezlimitní datové monstrum. Je to Otesánek, kterému dobrovolně, neřku-li posedle, tvůrci a vývojáři plní banděro masivním množstvím dat ze všech oblastí lidského života. Konstruktéři montují specializované servery a hardware tak, aby ten hladovec vše softwerově strávil, a potom, na pokyn dnes ještě člověka, nebo kontrolovaných algoritmů, vyvrhl nová data (ne vždy správná), která se mohou stát v dalším kole novou Otesánkovo potravou.

Chci tím říci, že se jen obyčejně bojím, jak se možná necháme „sežrat“ něčím, čemu jsme prozatím pánem. Bojím se, že se umělé inteligenci nekontrolovaně podřídíme, že přestaneme myslet. Že pod tíhou euforie megaužitku, kterého se nám využíváním umělé inteligence dostává, dovolíme této obludě rozumět našim citům, přestaneme ji ovládat.

Že zbytečně přeháním?

Nemyslím si. Samozřejmě si uvědomuji, jak se technologický pokrok s požadavkem prospěšnosti člověku řítí sedmimílovými kroky kupředu. Dvacáté století a 21. čtvrtstoletí jsou toho důkazem. Robotizace a digitalice jsou běžnou součástí výroby, služeb, bezpečnostních systémů, bankovnictví, zábavy, pronikly i do školství, zdravotnictví, oblastí administrativy a domácností. Ale - jak to bude s chytrými stroji (AI), které budou projevovat lidské chování, protože byly vyvinuty na základě technologií strojového a hlubokého učení? To znamená, že tyto chytré stroje (umělé neuronové sítě leckdy zabalené do humanoidních tvarů) se nejen učí na základě obrovských datových souborů, které jim primárně poskytl člověk, ale i pomocí svých vlastních samoupravovaných algoritmů. Chytré stroje se zdokonalují a bez zásahu člověka prohlubují svou schopnost se učit. Pokud to bude ku prospěchu člověka, fajn. Ale co bude, až jednoho dne nastane stav, kdy toto učení bude člověkem nekontrolovatelné, chytrý stroj (AI) nabude schopnosti, kterými se pro člověka přemění na stroje již neužitečné až nebezpečné (např. budou se umět sebereplikovat, budou umět vytvořit obranu proti svému vyřazení z provozu, budou umět delegovat úkoly na kopie sebe sama, budou umět skrýt stopy protilidské činnosti)? Zastavíme je? Vypneme?

Pokorně si namlouvám, aby umělá inteligence nebyla schopná cokoliv pociťovat a zažívat jako člověk, aby nedisponovala totožnou emocionální inteligencí jako člověk. Ona je dostačující a vrcholně alarmující schopnost umělé inteligence lidské emoce rozpoznávat, napodobit i reagovat na ně. Taktéž alarmující je snaha dát umělé inteligenci lidskou podobu. Souhlasím s názorem filosofa Jana Romportla, že by měla být úplně zakázána antropomorfizace umělé inteligence. Děsí mne ty Miss AI virtuální ženy, ty kýčovité krásky poskytující oduševnělý erotický zážitek, ty AI influencerky, které jejich sledovatelům vymývají mozek, a vůbec, děsí mne všichni ti vyvíjení robotičtí asistenti z oblasti pečovatelství a školství. Nejsem nakloněna těmto chytrým strojům, nepohladí s láskou.

Zneklidňuje mne, jak má vnoučátka častěji a častěji na jednoduché otázky a situace reagují: „počkej, zeptám se džípítý*)“. Jakmile hledám odpovědi na hádanky ve slovníku nebo v rozložitých mapách, děti kroutí očima či krčí rameny nad mou nemoderností. Na mou obhajobu je smutně poučuji: „Dětičky, nechte ty technologie, máme přeci svou hlavičku, přemýšlejme. Cvičme mozek, trénujme ten zázračný sval, jinak lidstvo zakrní a bude jen závislé na nulách a jedničkách.“ Hmmm, marná moje slova.

Ach jo, John McCarthy**), cos nám to jen nadělil?

Pokroku nelze bránit. Minimálně 70 let tady umělá inteligence je. A je více než jasné, že to bez ní dál nepůjde. Pokud bude umělá inteligence ve správné míře zastupovat člověka, řekla bych, že je stále srdečně vítána. Jen se modlím, aby nedocházelo k jejímu nadužívání, aby lidé nezlenivěli myslet, a tim nedávali zelenou vývojářům umělé inteligence podporovat její exponenciální vývoj až na hranici fáze singularity, kdy dojde ke ztrátě kontroly nad jejím technologickým růstem a lidská společnost se nenávratně promění. Jak, nikdo neví. Vyloučit však nelze podobnost ve smyslu konstatování Alberta Einsteina k vývoji jaderných technologií: Nevím, čím se bude bojovat ve třetí světové válce, ale ve čtvrté to budou klacky a kameny.

GPT (džípítý), ChatGPT- nástroje umělé inteligence, umělá neuronová síť, která se učí z vložených dat.

**)

John McCarthy - byl americký informatik a kognitivní vědec. V roce 1955 navrhl na konferenci v Dartmouthu používat pojem „umělá inteligence“, který se ujal.

Chtějme lidsky myslet a cítit navždy. Nedelegujme tuto schopnost umělé inteligenci

JSTE TU POPRVÉ?

Aktuální anketa

Více