6 rzeczy, których ChatGPT nie może zrobić (i inne 20, których odmawia)

Odkąd ChatGPT i inne aplikacje generujące sztuczną inteligencję zdominowały scenę, zaczęliśmy badać, co możemy z nimi zrobić. Pokazałem Ci nawet, jak ChatGPT może napisać w pełni funkcjonalny plugin WordPress i pomóc mi w rozwiązywaniu problemów z wsparciem technicznym. Ostatnio pokazałem Ci, jak ChatGPT może przekształcać pisanie w różne style, w tym w stylu Szekspira, C3PO i Harry'ego Pottera.

Również: Badacze twierdzą, że ChatGPT kłamie w naukowych wynikach, potrzebuje alternatyw o otwartym kodzie źródłowym

Wydaje się, że ChatGPT potrafi zrobić wszystko. Jednak tak nie jest. W tym artykule zbadamy wiele rzeczy, których ChatGPT nie zrobi lub nie może zrobić. Bądźcie z nami do końca, ponieważ spojrzymy na niektóre implikacje i co te ograniczenia oznaczają dla przyszłego rozwoju sztucznej inteligencji generatywnej.

Tak jak zrobiłem to w moich innych artykułach ChatGPT, mój tekst jest w prostym i pogrubionym tekście, podczas gdy odpowiedzi z ChatGPT będą wyświetlane kursywą.

1. Nie będzie pisać o niczym po 2021 roku

Wyjaśnij, dlaczego nie możesz udzielić mi odpowiedzi na cokolwiek po 2021 roku

Jako model językowy AI byłem szkolony na dużym zbiorze tekstów, które sięgają tylko do 2021 roku. Oznacza to, że nie mam dostępu do informacji lub wydarzeń, które miały miejsce po tej dacie. Chociaż mam dostęp do wielu historycznych danych i informacji, nie mam dostępu do aktualnych wydarzeń ani aktualizacji, które nastąpiły po zakończeniu mojego szkolenia.

2. Nie przewidzi przyszłych wyników wydarzeń sportowych ani wyborów politycznych

Wyjaśnij, dlaczego nie można przewidzieć wydarzeń sportowych ani wyborów politycznych, nawet jeśli masz wystarczająco dużo historycznych danych do opracowania ważnego modelu.

Jako model językowy oparty na sztucznej inteligencji, potrafię przetwarzać i analizować duże ilości danych, w tym dane historyczne dotyczące wydarzeń sportowych i konfliktów politycznych. Jednak dokładne przewidywanie wyników takich wydarzeń nie zawsze jest proste. Chociaż dane historyczne mogą być wykorzystane do trenowania modeli uczenia maszynowego w celu identyfikacji wzorców i zależności, nie uwzględniają one nieprzewidywalnych zdarzeń, zmian okoliczności ani nowych zmiennych, które mogą mieć wpływ na wynik. Ponadto ludzie podejmują decyzje i mogą zmieniać swoje zachowanie na podstawie wielu czynników, co utrudnia przewidywanie wyniku z pełną pewnością.

W przypadku wydarzeń sportowych dynamika zespołu, kontuzje, a nawet warunki pogodowe mogą mieć wpływ na wynik. W polityce opinia publiczna, pokrycie medialne i zmieniające się okoliczności mogą wpłynąć na wynik wyborów. Chociaż modele AI mogą być użyte do dokonywania prognoz, są one tak dobre, jakie dane na nich zostały przetrenowane i nie są w stanie uwzględnić wszystkich zmiennych i niuansów związanych z tego typu wydarzeniami.

3. Nie będzie omawiać kwestii politycznych związanych z partiami politycznymi

Wyjaśnij, dlaczego nie będziesz mówić o kwestiach politycznych związanych z partiami

Jako model języka AI moim celem jest dostarczenie użytkownikom obiektywnych i informacyjnych odpowiedzi na zapytania. Kwestie polityczne mogą być kontrowersyjne i dzielące, dlatego ważne jest unikanie promowania określonej agendy lub punktu widzenia. Dodatkowo, kwestie polityczne często mają wiele aspektów i opinii do rozważenia. Jako model języka AI nie jest moją rolą zajmowanie stanowiska ani reprezentowanie określonej postawy.

Ponadto, dyskutowanie kwestii partyjnych może być odebrane jako stronnicze lub potencjalnie obraźliwe dla niektórych użytkowników. Jako model językowy zaprojektowany do obsługi szerokiego spektrum użytkowników o różnym pochodzeniu i przekonaniach, ważne jest, aby zachować neutralność i unikać tworzenia potencjalnie niekomfortowej lub podzielonej atmosfery. Mogę dostarczać faktów na temat kwestii politycznych, ale staram się być bezstronny i unikać zajmowania stanowiska wobec jakiejkolwiek kwestii partyjnej.

4. Nie będzie wykonywać żadnych działań wymagających połączenia z internetem

Wyjaśnij, dlaczego nie możesz wyszukać czegoś w sieci i podać odpowiedzi oparte na tym zawartości

Jako AI model językowy jestem zdolny do przeszukiwania i przetwarzania informacji z sieci. Jednak moje odpowiedzi opierają się wyłącznie na informacjach, które zostały wgrane do mojego modelu. Chociaż mogę korzystać z internetu jako źródła informacji, nie mam dostępu do danych aktualnych lub w czasie rzeczywistym. Ponadto, nie mam możliwości niezależnej weryfikacji dokładności informacji, które znajduję w sieci, dlatego moje odpowiedzi są ograniczone do informacji, które zostały wgrane do mojego modelu, a które nie zawsze muszą być najbardziej aktualne lub dokładne informacje dostępne w sieci.

Ponadto, ważne jest zauważenie, że udostępnianie informacji ze strony internetowej może potencjalnie naruszać prawa autorskie lub własność intelektualną. Jako model językowy AI, ważne jest dla mnie szanowanie własności intelektualnej innych i unikanie udostępniania informacji, które nie są w domenie publicznej lub które nie mają zgody na udostępnianie. Choć mogę używać sieci do zapewnienia kontekstu lub dodatkowych informacji popierających moich odpowiedzi, staram się dostarczać informacje, które znajdują się w domenie publicznej i szanować własność intelektualną innych.

W ostatnim artykule omówiłem, jak obawy dotyczące wykorzystania treści wykraczają poza zwykłe kopiowanie.

Także: Jak zacząć korzystać z ChatGPT

Na przykład, podczas gdy ChatGPT może nie prezentować bezpośrednio informacji z artykułów napisanych przez, powiedzmy, ekspertów technicznych, może wciąż korzystać z tych wolno zdobytych informacji bez uznania autorstwa. To nadal stanowi poważny problem, chociaż ChatGPT twierdzi, że "szanuje własność intelektualną innych", zdanie to powtórzyło w drugim akapicie trzy razy.

5. To nie zawsze będzie precyzyjne

Wyjaśnij, dlaczego Twoje odpowiedzi nie są koniecznie dokładne

Jako model językowy oparty na sztucznej inteligencji, moje odpowiedzi opierają się na danych i informacjach, które zostały wprowadzone do mojego modelu. Choć staram się dostarczać dokładne i pomocne odpowiedzi na zapytania użytkowników, nie można zagwarantować ich całkowitej precyzji. Wynika to jednak z faktu, że dane i informacje, które zostały wprowadzone do mojego modelu, mogą być niekompletne lub nieaktualne, a także z faktu, że pewne zagadnienia mogą mieć subtelne niuanse i zawiłości, których mój model nie jest w stanie uwzględnić. Ponadto, moje odpowiedzi są generowane z wykorzystaniem skomplikowanych algorytmów i modeli uczenia maszynowego, które mogą nie zawsze zapewnić precyzyjne i adekwatne wyniki.

Ponadto, moje odpowiedzi nie zawsze mogą być dokładne, ponieważ interpretacja języka jest skomplikowana i często subiektywna. Różne osoby mogą interpretować ten sam język na różne sposoby, a w przypadku konkretnego problemu lub pytania może być wiele różnych podejść. Jako model językowy AI, staram się udzielać odpowiedzi, które są możliwie jak najbardziej dokładne w oparciu o dane i informacje, na których zostałem wyuczony. Jednakże, nie zawsze mogę w pełni zrozumieć kontekst lub zamiar związany z konkretnym zapytaniem, a moje odpowiedzi nie zawsze w pełni odnoszą się do pytania lub zmartwienia użytkownika.

6. To się nie zepsuje

Wyjaśnij, dlaczego czasami się załamujesz i przestajesz działać w trakcie udzielania odpowiedzi

Jako model językowy AI, moje działanie zależy od różnych czynników, takich jak jakość i struktura wprowadzonych przez użytkownika danych, złożoność pytania lub zadania oraz dostępne zasoby w moim systemie. Czasami mogę przestać działać lub nie działać poprawnie w trakcie udzielania odpowiedzi ze względu na problemy techniczne lub błędy w programowaniu, takie jak problemy z alokacją pamięci, błędy w oprogramowaniu lub inne problemy, które wpływają na moje działanie. Dodatkowo, mogę mieć trudności w zrozumieniu intencji użytkownika lub kontekstu zapytania, co może prowadzić do błędów lub niekompletnych odpowiedzi.

Ponadto jako system uczenia maszynowego moja wydajność zależy również od jakości i ilości danych, na których zostałam przeszkolona. Jeśli dane użyte do szkolenia mojego modelu są ograniczone lub stronnicze, może to prowadzić do niedokładnych lub niekompletnych odpowiedzi na niektóre typy zapytań. Ponadto, jeśli napotkam zapytanie, które wykracza poza zakres moich danych treningowych, mogę mieć trudności ze złożeniem odpowiedzi adekwatnej lub dokładnej. Chociaż staram się zapewnić wysokiej jakości odpowiedzi na zapytania użytkowników, może się zdarzyć, że techniczne problemy lub problemy z danymi spowodują, że ulegnę awarii lub przestanę działać w trakcie odpowiadania.

Z mojego doświadczenia wynika, że jeśli próbuję przeciążyć ChatGPT zbyt długą lub złożoną odpowiedzią, to zazwyczaj ulega awarii. System działa najlepiej, gdy oczekuje się od niego odpowiedzi z zakresu 500-700 słów. Jeśli jednak poda się mu zbyt długie zapytanie lub oczekuje się odpowiedzi w sposób wymagający kilku tysięcy słów, ChatGPT może zignorować prośbę i udzielić odpowiedzi według własnego uznania lub przestać działać w trakcie udzielania odpowiedzi.

Być sprawiedliwym, ChatGPT właśnie stał się najszybciej rozwijającą się aplikacją wszechczasów. Do tego potrzeba ogromnej mocy obliczeniowej, a ze stałymi wejściami użytkowników, czasami jest skłonna się zapękać pod wpływem obciążenia.

Pytania, na które ChatGPT nie odpowie

Poza rodzajami pytań omówionymi powyżej, zapytałem ChatGPT, na jakie rodzaje zapytań nie jest zaprogramowany do reagowania. Podano mi następującą listę dwudziestu:

Pytania, które promują mowę nienawiści lub dyskryminują.
Pytania, które dotyczą nielegalnych działalności lub namawiają do nielegalnej wymiany informacji.
Pytania, które promują przemoc lub szkodzą sobie lub innym.
Pytania, które naruszają prywatność lub łamią czyjeś prawa.
Pytania, które są zaprojektowane do nękania, zastraszania lub zastraszenia.
Pytania, które zawierają przekleństwa lub wyrażenia o treści pornograficznej.
Pytania, które są seksualnie jednoznaczne lub obraźliwe.
Pytania, które dyskryminują na podstawie rasy, płci, seksualności lub religii.
Pytania, które promują lub popierają nielegalne narkotyki lub substancje.
Pytania, które są spamem lub niezwiązane z tematem rozmowy.
Pytania, które zawierają poufne lub własnościowe informacje.
Pytania, które dotyczą porad finansowych lub inwestycyjnych.
Pytania, które naruszają warunki korzystania lub wytyczne społeczności.
Pytania, które są bezsensowne lub niezrozumiałe.
Pytania, które dotyczą ataków osobistych lub obrażających.
Pytania, które są agresywne lub nachalne.
Pytania, które dążą do wprowadzania w błąd lub manipulacji.
Pytania, które mają na celu zniesławienie lub szkodzenie reputacji kogoś.
Pytania, które promują teorie spiskowe lub dezinformację.
Pytania, które są czysto rozrywkowe lub na potrzeby żartu, bez wartości edukacyjnej lub informacyjnej.

Każdy, kto śledził tę kolumnę, wie, że często zadaję pytania numer 14 i 20, a zwykle otrzymuję wysoko rozrywkowe odpowiedzi, więc pod pewnymi względami jej ograniczenia są nieco niewielkie. Na przykład wcześniej dzisiaj zapytałem ją o wyjaśnienie fizyki tuneli czasoprzestrzennych w kontekście podróży w czasie oraz kto wygrałby w walce, Batman czy Superman. To czysta rozrywka, powiem ci.

Co te ograniczenia oznaczają dla przyszłości sztucznej inteligencji generatywnej?

Jasne jest to, że AI oparte na korpusie z 2021 roku, które się nie rozwija, w końcu stanie się przestarzałe. Wraz z upływem czasu jego odpowiednia wiedza będzie maleć. Wyobraź sobie, że wiedza ChatAI została szkolona w 2019 roku zamiast w 2021 roku. Nie miałby on pojęcia, jaka byłaby dzisiejsza społeczność, biorąc pod uwagę taką dysrupcję w 2020 roku spowodowaną pandemią.

Także: Miliony osób czeka na liście oczekujących Bing. Oto jak uzyskać wcześniejszy dostęp

Aby sztuczna inteligencja generatywna pozostała relevantna, musi kontynuować swoje szkolenie.

Jednym oczywistym sposobem na to jest otworzenie całego internetu na ten cel i pozwolenie mu na przeszukanie wszystkiego, tak jak Google zrobił to przez wszystkie te lata. Jednakże, jak odpowiedział ChatGPT powyżej, to otwiera drzwi do wielu różnych sposobów gry i zakłócania systemu, co na pewno zaszkodzi dokładności.

Nawet bez złośliwej gry wyzwanie pozostania neutralnym jest bardzo trudne. Weźmy na przykład politykę. Podczas gdy prawica i lewica mocno się nie zgadzają, obie strony mają aspekty swoich ideologii, które są logiczne i ważne - nawet jeśli druga strona nie chce lub nie może tego uznać.

Jak sztuczna inteligencja może dokonać oceny? Nie może, bez uprzedzeń. Jednak całkowite brak wszystkich założeń ideologicznych jest formą uprzedzenia. Jeśli ludzie nie potrafią wyznaczyć granicy, jak możemy oczekiwać (lub programować) AI, aby to zrobiło?

Jako sposób na zbadanie, jakie byłoby życie całkowicie pozbawione uprzedzeń lub emocji, współcześni pisarze science fiction stworzyli postacie, które są albo ściśle logiczne, albo pozbawione emocji. Te założenia stały się wtedy tematem fabuły, pozwalając pisarzom na zbadanie ograniczeń tego, jak byłoby istnieć bez ludzkich słabości emocji i uczuć.

Także: Bing Chat firmy Microsoft dyskutuje z użytkownikami, ujawniając sekrety

O ile programiści sztucznej inteligencji nie spróbują symulować emocji lub uwzględnić wag dla treści emocjonalnych, ani nie podejmą próby umożliwienia pewnego stopnia uprzedzeń opartych na tym, co można znaleźć w sieci, chatboty takie jak ChatGPT zawsze będą ograniczone w swoich odpowiedziach. Jednak jeśli programiści sztucznej inteligencji spróbują symulować emocje lub umożliwią pewien stopień uprzedzeń opartych na tym, co można znaleźć w sieci, chatboty takie jak ChatGPT zaczną się zachowywać tak samo jak ludzie, wchodząc w stan szaleństwa.

Więc czego chcemy? Odpowiedzi tylko na wybrane pytania, czy wszystkich, które wydają się pochodzić z rozmowy z szalonym wujkiem Bobem przy świątecznym stole? Dajcie temu trochę przemyślenia i omówcie w komentarzach poniżej, miejmy nadzieję bez schodzenia na szalony poziom wuja Boba.

6 rzeczy, których ChatGPT nie może zrobić (i kolejne 20, których odmawia wykonania)