Implikacje ChatGPT

W cyberbezpieczeństwie

Check Point Research i inni zauważyli, że ChatGPT potrafi pisaćphishinge-maile izłośliwe oprogramowanie, szczególnie w połączeniu zKodeks OpenAIDyrektor generalny OpenAI napisał, że rozwijanie oprogramowania może stanowić „(na przykład) ogromne ryzyko cyberbezpieczeństwa” i kontynuował przewidywanie, że „możemy osiągnąć prawdziwą AGI (sztuczna inteligencja ogólna) w ciągu następnej dekady, więc musimy traktować to ryzyko niezwykle poważnie”. Altman argumentował, że chociaż ChatGPT „oczywiście nie jest blisko AGI”, należy „zaufaćwykładniczy. Patrząc płasko do tyłu,patrząc pionowo do przodu.”

W środowisku akademickim

ChatGPT może pisać wstępy i streszczenia artykułów naukowych, co budzi wątpliwości natury etycznej. W kilku publikacjach ChatGPT jest już wymieniony jako współautor.

WAtlantykmagazyn,Stephen Marchezauważył, że ma to wpływ na środowisko akademickie, a zwłaszczaeseje aplikacyjneTo jeszcze nie zostało zrozumiane. Nauczyciel i autor z Kalifornii, Daniel Herman, napisał, że ChatGPT zapoczątkuje „koniec języka angielskiego w szkole średniej”.NaturaW swoim artykule Chris Stokel-Walker zauważył, że nauczyciele powinni być zaniepokojeni faktem, że uczniowie korzystają z ChatGPT do zlecania pisania na zewnątrz, ale instytucje edukacyjne dostosują się do tego, aby rozwijać krytyczne myślenie i rozumowanie. Emma Bowman zNPRnapisał o niebezpieczeństwie plagiatu, jakie stwarza dla uczniów narzędzie AI, które może generować stronniczy lub bezsensowny tekst o autorytatywnym tonie: „Wciąż wiele jest przypadków, gdy zadajesz mu pytanie, a on udziela ci brzmiącej imponująco odpowiedzi, która jest po prostu całkowicie błędna”.

Joanna Stern zThe Wall Street Journalopisał oszukiwanie w amerykańskim angielskim w szkole średniej za pomocą tego narzędzia, przesyłając wygenerowany esej. Profesor Darren Hick zUniwersytet Furmanaopisał, że zauważył „styl” ChatGPT w pracy przesłanej przez studenta. Internetowy detektor GPT twierdził, że praca z 99,9% prawdopodobieństwem została wygenerowana komputerowo, ale Hick nie miał na to twardych dowodów. Jednak student, o którym mowa, przyznał się do korzystania z GPT, gdy został skonfrontowany z rzeczywistością, i w rezultacie oblał kurs. Hick zasugerował zorganizowanie doraźnego, indywidualnego egzaminu ustnego z tematu pracy, jeśli istnieje silne podejrzenie, że student przesłał pracę wygenerowaną przez sztuczną inteligencję. Edward Tian, ​​student ostatniego roku studiów licencjackich naUniwersytet Princetonstworzył program o nazwie „GPTZero”, który określa, jaka część tekstu jest generowana przez sztuczną inteligencję, co pozwala na jego wykorzystanie do wykrywania, czy esej został napisany przez człowieka, w celu zwalczaniaplagiat akademicki.

Od 4 stycznia 2023 r. Departament Edukacji Miasta Nowy Jork ograniczył dostęp do ChatGPT z Internetu i urządzeń szkół publicznych.

W teście z ślepą próbą oceniono, że ChatGPT zdał egzaminy na poziomie studiów podyplomowychUniwersytet Minnesotyna poziomie studenta C+ i na poziomieWharton School na Uniwersytecie Pensylwaniiz oceną B do B-. (Wikipedia)

Następnym razem porozmawiamy o kwestiach etycznych związanych z ChatGPT.