Implications de ChatGPT

En cybersécurité

Check Point Research et d'autres ont noté que ChatGPT était capable d'écrireHameçonnagee-mails etmalware, surtout lorsqu'il est combiné avecCodex OpenAI.Le PDG d'OpenAI a écrit que l'avancement des logiciels pourrait poser "(par exemple) un énorme risque de cybersécurité" et a également continué à prédire "nous pourrions arriver à de véritables AGI (intelligence artificielle générale) au cours de la prochaine décennie, nous devons donc prendre ce risque très au sérieux ».Altman a fait valoir que, même si ChatGPT n'est "évidemment pas proche d'AGI", il faut "faire confiance auexponentiel.Plat regardant en arrière,vertical regardant vers l'avant.”

Dans le milieu universitaire

ChatGPT peut rédiger des sections d'introduction et de résumé d'articles scientifiques, ce qui soulève des questions éthiques.Plusieurs articles ont déjà répertorié ChatGPT comme co-auteur.

DansL'Atlantiquemagazine,Stéphane Marchea noté que son effet sur le milieu universitaire et en particulieressais de candidaturereste à comprendre.Daniel Herman, professeur de lycée et auteur en Californie, a écrit que ChatGPT inaugurerait "la fin de l'anglais au lycée".Dans leNaturejournal, Chris Stokel-Walker a souligné que les enseignants devraient s'inquiéter du fait que les élèves utilisent ChatGPT pour externaliser leur écriture, mais que les prestataires de formation s'adapteront pour améliorer la pensée ou le raisonnement critique.Emma Bowman avecRadio Nationale Publiquea écrit sur le danger que les étudiants plagient à travers un outil d'IA qui peut produire un texte biaisé ou absurde avec un ton autoritaire : "Il y a encore de nombreux cas où vous lui posez une question et cela vous donnera une réponse très impressionnante qui est tout simplement fausse."

Joanna Stern avecLe journal de Wall Streetdécrit la tricherie en anglais de lycée américain avec l'outil en soumettant un essai généré.Professeur Darren Hick deUniversité Furmandécrit avoir remarqué le « style » de ChatGPT dans un article soumis par un étudiant.Un détecteur GPT en ligne a affirmé que le papier était à 99,9% susceptible d'être généré par ordinateur, mais Hick n'avait aucune preuve tangible.Cependant, l'étudiant en question a avoué avoir utilisé GPT lorsqu'il a été confronté et, par conséquent, a échoué au cours.Hick a suggéré une politique consistant à donner un examen oral individuel ad hoc sur le sujet de l'article si un étudiant est fortement soupçonné de soumettre un article généré par l'IA.Edward Tian, ​​étudiant de premier cycle àuniversité de Princeton, a créé un programme, nommé "GPTZero", qui détermine la quantité d'un texte généré par l'IA, se prêtant à être utilisé pour détecter si un essai est écrit par un humain pour combattreplagiat académique.

Depuis le 4 janvier 2023, le ministère de l'Éducation de la ville de New York a restreint l'accès à ChatGPT à partir de l'Internet et des appareils de son école publique.

Lors d'un test en aveugle, ChatGPT a été jugé avoir réussi les examens de niveau supérieur à laUniversité du Minnesotaau niveau d'un étudiant C+ et àWharton School de l'Université de Pennsylvanieavec une note de B à B-.(Wikipédia)

La prochaine fois, nous parlerons des préoccupations éthiques du ChatGPT.