Implications de ChatGPT

En cybersécurité

Check Point Research et d'autres ont noté que ChatGPT était capable d'écrirehameçonnagecourriels etlogiciels malveillants, surtout lorsqu'il est combiné avecCodex OpenAILe PDG d'OpenAI a écrit que les logiciels de pointe pourraient poser « (par exemple) un énorme risque en matière de cybersécurité » et a également prédit que « nous pourrions parvenir à une véritable intelligence artificielle générale (AGI) (intelligence artificielle générale« au cours de la prochaine décennie, nous devons donc prendre ce risque très au sérieux. » Altman a fait valoir que, même si ChatGPT est « manifestement loin d’être une intelligence artificielle générale », il faut « faire confiance à… »exponentielVue à plat vers l'arrière,verticale regardant vers l'avant."

Dans le milieu universitaire

ChatGPT peut rédiger les introductions et les résumés d'articles scientifiques, ce qui soulève des questions d'éthique. Plusieurs articles mentionnent déjà ChatGPT comme co-auteur.

DansL'Atlantiquerevue,Stephen Marchea noté son impact sur le monde universitaire et surtoutessais de candidatureCela reste à comprendre. Daniel Herman, professeur de lycée et auteur californien, a écrit que ChatGPT signerait « la fin de l'enseignement de l'anglais au lycée ».NatureDans un article paru dans une revue, Chris Stokel-Walker a souligné que les enseignants devraient s'inquiéter de l'utilisation de ChatGPT par les élèves pour externaliser leur rédaction, mais que les établissements d'enseignement s'adapteront pour développer la pensée critique et le raisonnement. Emma Bowman, avecRadio Nationale PubliqueIl a écrit à propos du danger que représentent les plagiats étudiants via un outil d'IA susceptible de produire un texte biaisé ou absurde sur un ton autoritaire : « Il existe encore de nombreux cas où vous lui posez une question et il vous donne une réponse qui paraît très impressionnante, mais qui est tout simplement complètement fausse. »

Joanna Stern avecLe Wall Street JournalDarren Hick a décrit la tricherie en cours d'anglais au lycée américain grâce à cet outil, en soumettant une dissertation générée. Il a également décrit la tricherie en cours d'anglais au lycée américain, notamment la soumission d'une dissertation générée.Université FurmanHick a décrit avoir remarqué le « style » de ChatGPT dans un devoir remis par un étudiant. Un détecteur GPT en ligne indiquait que le devoir avait 99,9 % de chances d'être généré par ordinateur, mais Hick n'en avait aucune preuve formelle. Cependant, l'étudiant en question a avoué avoir utilisé GPT lorsqu'il a été confronté à la situation et a, par conséquent, échoué au cours. Hick a suggéré d'instaurer un examen oral individuel ad hoc sur le sujet du devoir si un étudiant est fortement soupçonné d'avoir soumis un devoir généré par une IA. Edward Tian, ​​étudiant de dernière année de licence àUniversité de Princeton, a créé un programme, nommé « GPTZero », qui détermine la proportion d'un texte générée par l'IA, ce qui permet de détecter si un essai est écrit par un humain afin de lutter contreplagiat académique.

À compter du 4 janvier 2023, le département de l'Éducation de la ville de New York a restreint l'accès à ChatGPT depuis le réseau Internet et les appareils de ses écoles publiques.

Lors d'un test à l'aveugle, ChatGPT a été jugé comme ayant réussi des examens de niveau universitaire.Université du Minnesotaau niveau d'un élève de niveau C+ et àÉcole Wharton de l'Université de Pennsylvanieavec une note entre B et B-. (Wikipedia)

La prochaine fois, nous parlerons des préoccupations éthiques liées à ChatGPT.