23. apríla 2024
potkan

Záhada obdareného potkana

Vedecké poznanie je hlboké. Roky študujete, diskutujete, prežúvate myšlienky. Spravíte sofistikovaný experiment a postupne, jedno po druhom, overujete všetky možné vysvetlenia javu. Napíšete článok, každá veta má svoje miesto, vážite každé jedno slovo a všetky tvrdenie si viete obhájiť. Niektoré vedecké texty patria k najimpozantnejším dielam ľudského myslenia.

Umelá inteligencia je, naopak, dobrá v bľabotaní. Dostať z nej niečo, čo je dlhé a má hlavu a pätu, pôsobí rozumne či inovatívne, sa dá len po veľkom snažení; hĺbku dokáže zatiaľ skôr iba predstierať.

Keď sa ma na jednej besede spýtali, či sa neobávam, že ma ako vedca čoskoro umelá inteligencia nenahradí, tak som povedal, že vedcov nahradí skôr medzi poslednými. Posledné týždne sa však množia príklady vedeckých publikácií, s ktorými, slušne povedané, umelá inteligencia výrazne pomohla. V niektorých článkoch sa objavili zabudnuté časti textu z jazykového modelu: „Tvoj úvod by mohol vyzerať takto“ či „ako veľký jazykový model sa k tomuto neviem vyjadriť.“ Špeciálne zarezonovala vygenerovaná ilustrácia potkana s veľkým, ehm, orgánom.

Znamená to, že umelá inteligencia začala robiť vedu? Nie. Totiž, nie je vedecký článok ako vedecký článok.

Vedecké štúdie majú dva problémy. Často sú napísané nezrozumiteľne. Nejde len o množstvo žargónu, ten v skutočnosti expertom čítanie zjednodušuje. Veľa vedcov však nepíše dobre, texty sú usporiadané nelogicky, pointu treba lúštiť. Boli dni, kedy som bol rád, že som prečítal jeden štvorstranový článok – a to som takmer nič iné nerobil. (Pre poriadok, niekedy človek číta dlho aj krátky a dobrý, no hutný článok.)

Keď si skombinujete nevyhnutnú náročnosť textu spôsobenú žargónom a predpokladanými vedomosťami a pridáte k tomu bežne tolerované zlé písanie, získate množstvo enigmatických textov. Síce majú myšlienku, no dobre ukrytú.

Druhý problém súvisí s tým, že vedci sú často posudzovaní na základe počtu publikácií, nie na základe ich kvality. Niektorí si uvedomili, že vďaka nepriehľadnosti štúdií je pre väčšinu ľudí – neexpertov – neodlíšiteľný zložitý text s myšlienkou od zložitého textu bez nej. A tak sa pustili do predstierania práce.

Títo „vedci“ píšu nezmyselné – ale múdro pôsobiace – texty. K tomu, prirodzene, vznikli žurnály, ktoré prestierajú, že ich prácu prísne kontrolujú a recenzujú. Samozrejme, za publikačný poplatok. Vznikol tak cyklus fiktívnej vedy, ktorá nemá s tou skutočnou nič spoločné. Teda, až na to, že sa delia o rovnaké zdroje, hlavne finančné.

No a do tohto vstupuje umelá inteligencia, geniálny stochastický papagáj. Falošným vedcom umožňuje produkovať texty neuveriteľným tempom a podľa toho, aké nezmysly publikovali niektoré žurnály tipujem, že ich používajú aj mnohí recenzenti.

Čo s tým spraviť? Osobne nevidím inú možnosť, ako prehodnotiť systém hodnotenia vedeckej práce. Namiesto počtu článkov sa pýtať, čo daný vedec či vedkyňa skúma, akými metódami a čo také objavili.

Pred svojim zázračným rokom 1905 publikoval Einstein len 5 článkov – z toho dva neskôr sám označil za nezmysly. Génius v najlepších rokoch by z pohľadu dnešných metrík mal problém hľadať postdoktorandskú pozíciu. Na druhú stranu, falošní vedci produjú desiatky článkov ročne. No najlepších univerzitách sa im to netoleruje, na tých horších už áno.

Mnohé inštitúcie a grantové agentúry už majú schémy, ktoré sa nepozerajú len na počet. Zďaleka však nie všetky. Generatívna umelá inteligencia akceleruje otváranie nožníc medzi kvalitou výstupov tých inštitúcií, na ktorých sa robí skutočná veda a kde sa veda len predstiera. Je dôležité, aby sa tejto zmene systém prispôsobil – inak nás zavalí lavína.

[Samuel]

PS: O tomto probléme nedávno písal Otakar Horák z Denníka N.

Pridaj komentár