Implikacje ChatGPT

W cyberbezpieczeństwie

Check Point Research i inni zauważyli, że ChatGPT potrafi pisaćwyłudzanie informacjie-maile izłośliwe oprogramowanie, zwłaszcza w połączeniu zKodeks OpenAI.Dyrektor generalny OpenAI napisał, że rozwijanie oprogramowania może stanowić „(na przykład) ogromne zagrożenie dla bezpieczeństwa cybernetycznego”, a także kontynuował przewidywanie, że „możemy dojść do prawdziwego AGI (sztuczna inteligencja ogólna) w następnej dekadzie, więc musimy bardzo poważnie podejść do tego ryzyka”.Altman argumentował, że chociaż ChatGPT „oczywiście nie jest blisko AGI”, należy „zaufaćwykładniczy.Mieszkanie patrząc wstecz,pionowo patrząc do przodu”.

w środowisku akademickim

ChatGPT może pisać wstępy i streszczenia artykułów naukowych, co rodzi pytania natury etycznej.Kilka artykułów wymieniło już ChatGPT jako współautora.

WAtlantyckiczasopismo,Stefana Marchezauważył, że jego wpływ na środowisko akademickie, a zwłaszczaeseje aplikacyjnejest jeszcze do zrozumienia.Nauczyciel z kalifornijskiej szkoły średniej i autor, Daniel Herman, napisał, że ChatGPT zapoczątkuje „koniec języka angielskiego w szkole średniej”.wNaturaczasopiśmie, Chris Stokel-Walker zwrócił uwagę, że nauczyciele powinni być zaniepokojeni tym, że uczniowie używają ChatGPT do outsourcingu pisania, ale dostawcy usług edukacyjnych dostosują się, aby poprawić krytyczne myślenie lub rozumowanie.Emma Bowman zNPRnapisał o niebezpieczeństwie popełnienia przez uczniów plagiatu za pomocą narzędzia AI, które może wyświetlać stronniczy lub bezsensowny tekst z autorytatywnym tonem: „Wciąż istnieje wiele przypadków, w których zadajesz mu pytanie, a ono daje bardzo imponująco brzmiącą odpowiedź, która jest po prostu błędna”.

Joanna Stern zDziennik Wall Streetopisał ściąganie w amerykańskim angielskim w szkole średniej za pomocą narzędzia, przesyłając wygenerowany esej.Profesor Darren Hick zUniwersytet Furmanaopisał zauważenie „stylu” ChatGPT w artykule przesłanym przez studenta.Internetowy detektor GPT wykazał, że artykuł na 99,9 procent został wygenerowany komputerowo, ale Hick nie miał twardych dowodów.Jednak student, o którym mowa, przyznał się do używania GPT podczas konfrontacji, w wyniku czego nie zaliczył kursu.Hick zasugerował politykę przeprowadzania indywidualnego egzaminu ustnego ad hoc na temat pracy, jeśli student jest silnie podejrzany o przesłanie pracy wygenerowanej przez sztuczną inteligencję.Edward Tian, ​​starszy student studiów licencjackich na Uniwersytecie imUniwersytet Princeton, stworzył program o nazwie „GPTZero”, który określa, jaka część tekstu jest generowana przez sztuczną inteligencję, co pozwala wykryć, czy esej został napisany przez człowieka w celu walkiplagiat akademicki.

Od 4 stycznia 2023 r. Departament Edukacji miasta Nowy Jork ograniczył dostęp do ChatGPT z Internetu i urządzeń szkół publicznych.

W zaślepionym teście uznano, że ChatGPT zdał egzaminy na poziomie magisterskim naUniwersytet w Minnesociena poziomie studenta C+ i klWharton School na Uniwersytecie Pensylwaniiz klasą od B do B.(Wikipedia)

Następnym razem porozmawiamy o problemach etycznych ChatGPT.