Pietia [Piotr Tarczyński] powiedział o Sztucznej Ćwierćinteligencji, że jest jak turecki dziadek. Jeśli szukacie w Stambule jakiejś ulicy, to jest duża szansa, że wejdziecie w kontakt z kontaktowym staruszkiem. Zapytany, czy zna drogę do takiej a takiej sokak albo caddesi, NIGDY nie powie, że nie zna. Zawsze udzieli odpowiedzi. Czasem wezwie kolegę i się skonsultuje, czasem tylko machnie ręką, w którym kierunku – ważne, że da odpowiedź. Gorzej, że często błędną.

 

Podobnie działają modele AI – jeśli czegoś nie wiedzą, to zmyślą. European Broadcasting Union (22 media publiczne w 18 krajach i 14 językach) pod wodzą BBC przeprowadził właśnie duże badania odpowiedzi udzielanych „asystentów AI”. Wyniki?

 

45% odpowiedzi zawierało co najmniej jeden błąd

31% odpowiedzi błędnie podawało źródło (nieprecyzyjnie, przypisywało innemu źródłu lub po prostu nie podawało)

20% zawierało poważne błędy: informacje nieaktualne lub kompletnie zmyślone (tzw. halucynacje AI).

Najgorszy był Gemini Googla – 76% poważnych błędów.

 

Jestem tak stary, że na lekcjach informatyki w liceum używałem Altavisty i Internet Explorera (założonych w 1995), bo Google jeszcze nie istniał (powstał w 1998). Otrzymaliśmy jako ludzkość naprawdę fantastyczne narzędzie, megasłownik czy megaencyklopedię, owszem, zaśmiecony, ale pełen najróżniejszych źródeł, do których docierało się jednym, czasem paroma kliknięciami. Wraz ze wzrostem Wikipedii, mediów online, repozytoriów cyfrowych bibliotek itd., nastąpiła eksplozja dostępności wiedzy.

 

Po czym najpierw media społecznościowe zaczęły swoimi algorytmami podbijać wyniki, które generowały większy ruch (były zapalne, niszczące, dzielące, często fałszywe – widać to szczególnie na jutubie). A potem stworzono ten koszmar, czyli sztuczną inteligencję: dokonując masowego rabunku praw twórców (jeśli chodzi o generowanie atrap dzieł) i dziennikarzy (jeśli chodzi o generowanie atrap artykułów). Nie tylko niszcząc podstawy bytu tych dwóch ważnych grup społecznych, ale też samą tkankę społeczeństwa.

 

Jesteśmy w znacznie gorszym miejscu, niż dwie dekady temu.

Trochę tak, trochę nie. Po pierwsze w narzędziach płatnych można ustawić poziom halucynacji. Po drugie, tak jak w przypadku każdego narzędzia, trzeba umieć z niego korzystać. Nie można bezmyślnie. Bo nie tylko siekierą obetniemy sobie nogi, ale i w przypadku tłumacza otrzymamy "Denmark from chicken".

Jasne. Jak się podpisuje umowę w banku, czy gdzieś zakłada konto w Internecie to też należy przeczytać uważnie regulamin. I ludzie zapewne to robią. A przynajmniej większość ludzi czyta, no nie? 😀

Wysłany przez: @hebius

Jasne. Jak się podpisuje umowę w banku, czy gdzieś zakłada konto w Internecie to też należy przeczytać uważnie regulamin. I ludzie zapewne to robią. A przynajmniej większość ludzi czyta, no nie? 😀

no właśnie

Tu dochodzi jeszcze jeden czynnik, który można wyeliminować lub przynajmniej zmodyfikować. Jakiś czas temu przeprowadzono badania, które wykazały, że w ustawieniach AI brak odpowiedzi jest "punktowany" niżej niż błędna odpowiedź. A że modele programowane są na uzyskiwanie optymalnych wyników to w rezultacie są "zmuszane" do fabrykowania odpowiedzi. Innymi słowy, za poprawne wyniki mają 6 punktów, za fałszywe 2, za "nie wiem" zero. Teoretycznie można to w miarę szybko poprawić, ale "właściciele"* boją się, że odstraszy to użytkowników. 

* Użyłam tego słowa, bo nie chodzi mi o samych twórców modeli AI, ale o tych, którzy je udostępniają, często komercyjnie. 

Ciekawostka: https://businessinsider.com.pl/wiadomosci/jezyk-polski-zaskakuje-swiat-ai-sporo-wyprzedza-angielski/hnjl40s

"Język polski, który jest uznawany za jeden z najtrudniejszych języków świata, zaskoczył naukowców swoją wydajnością w kontekście sztucznej inteligencji. W badaniu przeprowadzonym przez naukowców z University of Maryland i Microsoftu zajął pierwsze miejsce w rankingu wydajności długich promptów. Angielski, mimo ogromnych zasobów, uplasował się dopiero na szóstym miejscu."

Nie ma podanych szczegółów, więc trudno powiedzieć, jakie są powody. Spekulując można przypuszczać, że poziom skomplikowania języka przekłada się na szczegółowość i jasność poleceń, innymi słowy Polski "wygrywa" rodzajami, przypadkami i końcówkami 😁. 

https://suno.com/s/8PMkfww2WNf0tdsI

A co powiecie na taką wersję "Świtezianki"?

Śliczne. 

Już nam nie potrzeba żadnych Sanah i innych takich 😀 Szkoda tylko, że ludzie płyt nie kupują, bo na twórczości AI jeśli już zdominuje streamingi, ciężko będzie zarobić. Bo po co płacić za streaming jeśli można sobie samemu będzie coś stworzyć za pomocą AI?

Na arte.tv jest ciekawy dokument: AI i śmierć Internetu

https://www.arte.tv/pl/videos/122187-000-A/ai-i-smierc-internetu

W trakcie pada info o jakimś facecie, który dzięki muzyce tworzonej przez AI zarobił 10 milionów na platformach streamingowych. 

I nie jest to niczyj głos? nikt się do niego nie jest w stanie przyznać?

Taka refleksja mnie naszła. Zauważyliście, że żyjemy już w świecie, w którym każda sensacyjna fotka czy filmik opatrzona jest dziesiątkiem komentarzy, że to bullshit wygenerowany przez AI? Mnie też już właściwie "kopara nie opada" bo wtedy kiedy powinna, przychodzi myśl, e tam, to pewnie AI. W ten sposób nic nie jest już w stanie nikogo zadziwić. A chyba nie jest tak, że każda z takich spraw to fake? Smutny jest świat, w którym człowiek obojętnieje na wszystko bo zawsze ma wrażenie, że ktoś chce po prostu wyłudzić jego emocje.

Nie korzystam z FB ani X w taki sposób, żebym czytał cudze komentarze, więc jestem wolny od podobnych refleksji przy zdjęciach. Ale jako bloger zauważam, że ludzie zaczynają mocno wykorzystywać AI do blogowania, nawet - mam wrażenie (co może być odpowiednikiem takiej nadmiernej podejrzliwości jak twoja reakcja na zdjęcia) - nawet przy pisaniu komentarzy. Inna rzecz, że te teksty generowane przez AI są tak sztuczne, że raczej trudno je pomylić z mniej czy bardziej autentyczną reakcją żywego człowieka.

Made my day 🙂