Jednym z najbardziej zabawnych, ale zarazem problematycznych aspektów AI Overviews jest traktowanie żartów jako faktów. Przykłady takich wpadek obejmują sugestie użycia “1/8 szklanki nietoksycznego kleju” do pizzy by ser się trzymał ciasta czy polecenie “płynu do kierunkowskazów” jako rozwiązania dla niesprawnego kierunkowskazu.

Innym problemem jest niedokładne podawanie źródeł informacji przez AI. Na przykład, podsumowanie dotyczące liczby sygnatariuszy Deklaracji Niepodległości posiadających niewolników opiera się na stronie biblioteki Washington University w St. Louis, pomijając inne źródła, które podają inne dane.

Częścią problemu jest zbiór danych do uczenia AI. Są one brane z całego internetu (np. Reddita) i są tak duże, że nawet gdyby Google chciało, to nie jest w stanie odsiać z nich takich sarkastycznych czy trollujących komentarzy, zaś sama AI, póki co nie umie odróżniać takich wypowiedzi od tych poważnych.

Źródło: Ars Technica