ChatGPT je jednoduchý model, který předpovídá další slovo ve větě – je člověk jen jednoduchý organismus, který předpovídá další situaci v nehostinném prostředí?

Strávil jsem pár hodin tím, že jsem se snažil vysvětlit ChatGPT některé základní koncepty lidské existence, jako je bolest, radost či schopnost vnímat čas. Že ChatGPT mnohdy odpovídá hloupě a předvídatelně, mne tolik nepřekvapilo, avšak trklo mne, jak sám mnohdy odpovídám na takové “filosofičtější” otázky bez delšího rozmyšlení.Neboť stejně jako ChatGPT mnohdy odpovídá povrchně a frázovitě, máme i my lidé, třebaže se honosíme tou naší schopností “vědomí” a “racionality”, tendenci svoje přemýšlecí fakulty nezapojovat a prostě jen “vyblít” slova, která se k danému tématu často říkají. Nejsme tak v tomto ohledu také nic víc než jen kalkulačky pravděpodobného výskytu slov? 

Jak již bylo naznačeno výše, ChatGPT předpovídá další slovo ve větě na základě složité probability, neurální sítě zčásti imitující tu naší. To ho řadí do počítačích algoritmů, které se nazývají transformeři, a ty byly vynalezené už před dvaceti lety. Na principu transformerů, tedy algoritmů snažících se uchopit lidský jazyk pro počítačové programy, funguje např. překladač DeepL. Avšak přestože je ChatGPT úžasný v tom, co dokáže, je důležité si uvědomit, že nerozumí skutečnému významu vět, které produkuje – pouze sčítá pravděpodobnosti. 

Příměr člověka a ChatGPT jakožto jednoduchých prediktivních modelů jsem použil proto, že nám práce s ChatGPT může ukázat slepá místa, na která si nevidíme – protože je vidět nechceme. Ruku na srdce: Kolikrát z nás vycházejí slova automatizovaně, bez hlubšího zamyšlení? ChatGPT a podobné jazykové modely nám mohou sloužit jako zrcadlo, které nám ukazuje, že naše řečové schopnosti nejsou vždy tak sofistikované, jak si myslíme. Na druhou stranu dyž se člověk nad odpověďmi tolik nezamýšlí, může komunikovat efektivně a rychle. 

Pokud se nezastavíme a nezamyslíme se nad tím, co říkáme a jaké to může mít důsledky, můžeme se ocitnout v obtížích, podobně jako ChatGPT, který může produkovat nevhodné nebo nepřesné odpovědi.

Primitivita ChatGPT nám tedy připomíná, že jsme sami také pouze lidské bytosti, které se učí a rostou neustále. A možná nám může být inspirací k tomu, abychom byli pozornější a uvědomělejší ve svém jednání, včetně našeho používání jazyka.