Nejde o to, zda je ta či ona technologie dobrá nebo zlá. Ale o to, jak s ní člověk naloží. Již dávno je zcela běžné (zne)užívání umělé inteligence ke tvorbě klamného obsahu, automatických botů, co ovládají profily na sociálních sítích a mnoho jiného. Dělá to vše AI sama, nebo ji k tomu naprogramoval a používá člověk?

Pozadí vzniku Nobelovy ceny (míru)

„Moje továrny mohou ukončit válku dříve, než k ní vůbec dojde, protože den, kdy dvě armády budou schopné zničit jedna druhou během několika sekund, si budou muset všechny civilizované národy odříct válku a propustit vojáky domů."

V roce 1867 Alfred Nobel vynalezl dynamit, bezpečnější a výkonnější formu výbušniny než nitroglycerin, který byl obtížně kontrolovatelný. Dynamit byl původně navržen pro průmyslové využití - těžbu, stavebnictví a podobně. Nobel věřil, že dynamit bude tak ničivý, že ho nikdo nepoužije jako zbraň.

Roku 1888, po smrti Nobelova bratra Ludviga, omylem vyšly nekrology s názvem „Smrt obchodníka se smrtí". Jedna francouzská noviny napsala: „Dr. Alfred Nobel, který zbohatl tím, že vynalezl způsoby, jak zabíjet více lidí rychleji než kdykoli předtím, zemřel včera." Nobel tím byl hluboce otřesen a zjistil, jak ho vnímá svět. Rozhodl se změnit svůj odkaz.

V roce 1895 Nobel sepsal závěť, v níž odkázal většinu svého jmění k vytvoření fondu, jehož výnosy by byly každoročně udělovány těm, kteří v předcházejícím roce přinesli největší prospěch lidstvu. Tak vznikla Nobelova cena.

Poznámka: O pravdivosti tohoto příběhu se vedou spory. Je ale rozhodně čtivý... :o) Fakt, že Nobelova cena vznikla, je všeobecně znám a pravdivý.

Dobrý sluha, špatný pán

Hlavním úskalím umělé inteligence tak zůstává spíše fakt, že ji mají k dispozici i lidé, kteří neumí ovládat ani sami sebe a nebo chtějí ovládat jiné.

Umělá inteligence umí být velice dobrým sluhou. Dobrým do takové míry, jak dobrý je jeho pán. Není totiž nic jiného, než jeho výtvorem. Samotný člověk je však ve svém jednání často nedokonalý. Vždyť se neumíme ani domluvit na tom, zda levice nebo pravice, zda Sparta nebo Slavie, jednu dobu byla Země plochá, pak kulatá a nyní o tom opět pochybujeme.

Tento sluha byl navíc vytvořen pomocí nedokonalých prostředků - každý programovací jazyk má své klady, zápory a vlastnosti, které samotný software omezují. Stejně jako (matematické) modely, které se snaží pouze napodobit funkci neuronové sítě nebo genetického algoritmu. Výstupy AI nejsou výstupem nějaké inteligence, ale jsou to výstupy naprogramovaného matematického modelu, který pracuje se statistikou a pravděpodobností.

A pak jsou zde samotné chyby v programu nebo „nepravdy" ve vstupních datech. O tom, co to může způsobit, byl natočen i český seriál Návštěvníci (1983). Umělá inteligence může a bude obsahovat stejné chyby jako v tomto sci-fi pro děti a mládež - a to bez ironie.

Umělá inteligence není vševědoucí nebo korektní. Chová se pouze tak, jak byla naprogramována a jaká vstupní data jsme jí dali k dispozici.

Kdyby programátorem ChatGPT byli například výhradně lidi z Ostravy, tak na dotaz, kdo je nejlepší fotbalový klub na světě, by existovala pouze jedna správná odpověď: „Baník, py.o!"

Ale vážně - AI není korektní, není správná, je pouze produktem. Pozor na to. Pro všechny aspekty lidského života existuje tzv. Pátá dohoda: „Buďte skeptičtí, ale naslouchejte" - kterou bych pozměnil na „Naslouchejte, ale buďte skeptičtí".