SAN FRANCISCO (AP) – Le créateur de ChatGPT tente de freiner sa réputation de machine à tricher en roue libre avec un nouvel outil qui peut aider les enseignants à détecter si un étudiant ou une IA a écrit ces devoirs.
Le nouveau classificateur de texte AI lancé par OpenAI mardi fait suite à une discussion vieille d’une semaine dans les écoles et les collèges de peur que la capacité de ChatGPT à envoyer des SMS sur commande puisse alimenter la malhonnêteté académique et entraver l’apprentissage.
OpenAI avertit que son nouvel outil – comme d’autres déjà disponibles – il n’est pas infaillible. La méthode de détection du texte écrit par l’IA « est défectueuse et parfois elle sera erronée », a déclaré Jan Leike, chef de l’équipe d’alignement d’OpenAI chargée de rendre ses systèmes plus sûrs.
« Pour cette raison, il ne faut pas se fier uniquement à lui lors de la prise de décisions », a déclaré Leike.
Les adolescents et les étudiants faisaient partie des millions de personnes qui ont commencé à expérimenter ChatGPT après son lancement le 30 novembre en tant qu’application gratuite sur le site Web d’OpenAI. Et tandis que beaucoup ont trouvé des moyens de l’utiliser de manière créative et sans danger, la facilité avec laquelle il pouvait répondre aux questions du test à faire à la maison et aider à d’autres devoirs a semé la panique chez certains éducateurs.
Alors que les écoles ouvraient pour la nouvelle année, New York, Los Angeles et d’autres grands districts scolaires publics ont commencé à bloquer leur utilisation dans les salles de classe et sur les appareils scolaires.
Le district des écoles publiques de Seattle a initialement bloqué ChatGPT sur tous les appareils scolaires en décembre, mais a ensuite ouvert l’accès aux éducateurs qui souhaitent l’utiliser comme outil pédagogique, a déclaré Tim Robinson, porte-parole du district.
« Nous ne pouvons pas nous permettre de l’ignorer », a déclaré Robinson.
Le district envisage également d’étendre l’utilisation de ChatGPT en classe pour permettre aux enseignants de l’utiliser pour former les étudiants à être de meilleurs penseurs critiques et pour permettre aux étudiants d’utiliser l’application comme un « mentor personnel » ou pour aider à générer de nouvelles idées lorsqu’ils travaillent. en mission, a déclaré Robinson.
Les districts scolaires à travers le pays disent voir la conversation sur ChatGPT évoluer rapidement.
« La réaction initiale a été » OMG, comment allons-nous endiguer la marée de toutes les tricheries qui vont se produire avec ChatGPT « », a déclaré Devin Page, spécialiste de la technologie au Calvert County Public School District dans le Maryland. Il y a maintenant une prise de conscience croissante que « c’est l’avenir » et le bloquer n’est pas la solution, a-t-il déclaré.
« Je pense que nous serions naïfs si nous n’étions pas conscients des dangers que pose cet outil, mais nous ne serions pas non plus au service de nos étudiants si nous leur interdisions, ainsi qu’à nous, de l’utiliser à son plein potentiel », a déclaré Page, qui pense que des districts comme le sien finiront par débloquer ChatGPT, surtout une fois que le service de suivi de l’entreprise sera opérationnel.
OpenAI a souligné les limites de son outil de détection dans un article de blog mardi, mais a déclaré qu’en plus de décourager le plagiat, il pourrait aider à détecter les campagnes de désinformation automatisées. et autres détournements de l’intelligence artificielle pour imiter les humains.
Plus un passage de texte est long, plus l’outil est efficace pour détecter si une IA ou un humain a écrit quelque chose. Tapez n’importe quel texte, un essai d’admission à l’université ou une analyse littéraire de « The Invisible Man » de Ralph Ellison, et l’outil le qualifiera de « très improbable, improbable, incertain s’il est, possible ou probable ». -généré.
Mais tout comme ChatGPT lui-même, qui a été formé sur un énorme trésor d’écrits en ligne, de journaux et d’écrits en ligne numérisés mais souvent crachant avec confiance des mensonges ou des absurdités, il n’est pas facile d’interpréter comment il est arrivé à un résultat.
« Nous ne savons fondamentalement pas à quel type de modèle vous faites attention ou comment cela fonctionne en interne », a déclaré Leike. « Il n’y a vraiment pas grand-chose que nous puissions dire à ce stade sur le fonctionnement réel du classificateur. »
Les établissements d’enseignement supérieur du monde entier ont également commencé à discuter de l’utilisation responsable de la technologie de l’IA. Sciences Po, l’une des universités les plus prestigieuses de France, a interdit son utilisation la semaine dernière et a averti que toute personne surprise à utiliser subrepticement ChatGPT et d’autres outils d’IA pour produire des travaux écrits ou oraux pourrait être bannie de Sciences Po et d’autres institutions.
En réponse au contrecoup, OpenAI a déclaré qu’il travaillait depuis plusieurs semaines pour créer de nouvelles directives pour aider les éducateurs.
« Comme beaucoup d’autres technologies, il se peut qu’un district décide qu’il n’est pas approprié de l’utiliser dans ses salles de classe », a déclaré Lama Ahmad, chercheur en politiques chez OpenAI. « Nous ne les poussons pas vraiment dans un sens ou dans l’autre. Nous voulons simplement leur donner les informations dont ils ont besoin pour pouvoir prendre les bonnes décisions pour eux. »
Il s’agit d’un rôle public inhabituel pour la startup de San Francisco axée sur la recherche, désormais soutenue par des milliards de dollars d’investissements de son partenaire Microsoft et face à l’intérêt croissant du public et des gouvernements.
Le ministre français de l’Economie numérique, Jean-Noël Barrot, a récemment rencontré en Californie des dirigeants d’OpenAI, dont le PDG Sam Altman, et a déclaré une semaine plus tard au Forum économique mondial de Davos, en Suisse, qu’il était optimiste quant à la technologie. Mais le ministre du gouvernement – ancien professeur au Massachusetts Institute of Technology et à l’école de commerce française HEC à Paris – a déclaré qu’il y avait également des problèmes éthiques difficiles à résoudre.
« Donc, si vous êtes à la faculté de droit, il y a lieu de s’inquiéter car, évidemment, ChatGPT, entre autres outils, sera en mesure de fournir des examens relativement impressionnants », a-t-il déclaré. « Si vous êtes dans une école de commerce, tout va bien car ChatGPT aura du mal à trouver ou à fournir quelque chose qui est attendu lorsque vous êtes dans une école de commerce de premier cycle. »
Il a déclaré qu’il sera de plus en plus important pour les utilisateurs de comprendre les bases du fonctionnement de ces systèmes afin qu’ils sachent quels pourraient être les biais.
—-
O’Brien a rapporté de Providence, Rhode Island. L’écrivain AP John Leicester a contribué à ce rapport depuis Paris.
