Pietia [Piotr Tarczyński] powiedział o Sztucznej Ćwierćinteligencji, że jest jak turecki dziadek. Jeśli szukacie w Stambule jakiejś ulicy, to jest duża szansa, że wejdziecie w kontakt z kontaktowym staruszkiem. Zapytany, czy zna drogę do takiej a takiej sokak albo caddesi, NIGDY nie powie, że nie zna. Zawsze udzieli odpowiedzi. Czasem wezwie kolegę i się skonsultuje, czasem tylko machnie ręką, w którym kierunku – ważne, że da odpowiedź. Gorzej, że często błędną.

 

Podobnie działają modele AI – jeśli czegoś nie wiedzą, to zmyślą. European Broadcasting Union (22 media publiczne w 18 krajach i 14 językach) pod wodzą BBC przeprowadził właśnie duże badania odpowiedzi udzielanych „asystentów AI”. Wyniki?

 

45% odpowiedzi zawierało co najmniej jeden błąd

31% odpowiedzi błędnie podawało źródło (nieprecyzyjnie, przypisywało innemu źródłu lub po prostu nie podawało)

20% zawierało poważne błędy: informacje nieaktualne lub kompletnie zmyślone (tzw. halucynacje AI).

Najgorszy był Gemini Googla – 76% poważnych błędów.

 

Jestem tak stary, że na lekcjach informatyki w liceum używałem Altavisty i Internet Explorera (założonych w 1995), bo Google jeszcze nie istniał (powstał w 1998). Otrzymaliśmy jako ludzkość naprawdę fantastyczne narzędzie, megasłownik czy megaencyklopedię, owszem, zaśmiecony, ale pełen najróżniejszych źródeł, do których docierało się jednym, czasem paroma kliknięciami. Wraz ze wzrostem Wikipedii, mediów online, repozytoriów cyfrowych bibliotek itd., nastąpiła eksplozja dostępności wiedzy.

 

Po czym najpierw media społecznościowe zaczęły swoimi algorytmami podbijać wyniki, które generowały większy ruch (były zapalne, niszczące, dzielące, często fałszywe – widać to szczególnie na jutubie). A potem stworzono ten koszmar, czyli sztuczną inteligencję: dokonując masowego rabunku praw twórców (jeśli chodzi o generowanie atrap dzieł) i dziennikarzy (jeśli chodzi o generowanie atrap artykułów). Nie tylko niszcząc podstawy bytu tych dwóch ważnych grup społecznych, ale też samą tkankę społeczeństwa.

 

Jesteśmy w znacznie gorszym miejscu, niż dwie dekady temu.

Trochę tak, trochę nie. Po pierwsze w narzędziach płatnych można ustawić poziom halucynacji. Po drugie, tak jak w przypadku każdego narzędzia, trzeba umieć z niego korzystać. Nie można bezmyślnie. Bo nie tylko siekierą obetniemy sobie nogi, ale i w przypadku tłumacza otrzymamy "Denmark from chicken".

Jasne. Jak się podpisuje umowę w banku, czy gdzieś zakłada konto w Internecie to też należy przeczytać uważnie regulamin. I ludzie zapewne to robią. A przynajmniej większość ludzi czyta, no nie? 😀

Wysłany przez: @hebius

Jasne. Jak się podpisuje umowę w banku, czy gdzieś zakłada konto w Internecie to też należy przeczytać uważnie regulamin. I ludzie zapewne to robią. A przynajmniej większość ludzi czyta, no nie? 😀

no właśnie

Tu dochodzi jeszcze jeden czynnik, który można wyeliminować lub przynajmniej zmodyfikować. Jakiś czas temu przeprowadzono badania, które wykazały, że w ustawieniach AI brak odpowiedzi jest "punktowany" niżej niż błędna odpowiedź. A że modele programowane są na uzyskiwanie optymalnych wyników to w rezultacie są "zmuszane" do fabrykowania odpowiedzi. Innymi słowy, za poprawne wyniki mają 6 punktów, za fałszywe 2, za "nie wiem" zero. Teoretycznie można to w miarę szybko poprawić, ale "właściciele"* boją się, że odstraszy to użytkowników. 

* Użyłam tego słowa, bo nie chodzi mi o samych twórców modeli AI, ale o tych, którzy je udostępniają, często komercyjnie.