Un agent rebelle dans une fenêtre
Un petit jeu pour explorer les comportements possibles d’un agent rebelle.
Quels risques les systèmes d’IA avancés présentent-ils, et que peut faire le Canada? Consultez les recherches, les propositions de pause et les façons de participer. Derniers développements
Commencer · 2 minutesChoisissez les sujets à explorer
Explorez une question, lisez la réponse et ajoutez les sujets qui vous intéressent à votre parcours.
Entrevue
Bengio dit que même des chercheurs préoccupés par les risques ont été surpris par la vitesse des progrès et le degré de désalignement observé. Il ne donne pas ici une date certaine.
Bengio–Patrice Roy · Radio-Canada · 1:40–2:15Les signets sont enregistrés dans ce navigateur. Créez un compte pour retrouver vos lectures sur vos autres appareils.
Créer un compteEntrevue / argument
Bengio évoque la possibilité que l’IA fasse de la recherche en IA et accélère les progrès. Il souligne aussi l’incertitude des échéances et la possibilité de rencontrer des obstacles.
Bengio–Patrice Roy · 19:31–20:47; incertitude à 21:31Les signets sont enregistrés dans ce navigateur. Créez un compte pour retrouver vos lectures sur vos autres appareils.
Créer un compteLecture des preuves
Un test contrôlé, un incident déployé et une prévision apportent des informations différentes. Consultez les conditions et les limites documentées avant de généraliser.
Dossiers et sources du signal d’alarmeLes signets sont enregistrés dans ce navigateur. Créez un compte pour retrouver vos lectures sur vos autres appareils.
Créer un compteProposition politique
Une proposition doit préciser ce qui serait limité, comment contrôler les engagements et comment répondre aux violations. Examinez ces choix dans notre stratégie.
Stratégie de PauseIA CanadaLes signets sont enregistrés dans ce navigateur. Créez un compte pour retrouver vos lectures sur vos autres appareils.
Créer un compteArgument d’un livre
Les auteurs visent des systèmes futurs plus capables que les humains. Ils ne fixent pas de date. Les dommages actuels méritent aussi leurs propres explications. Il s’agit d’un argument sur un risque futur, dont l’issue reste incertaine.
If Anyone Builds It · Introduction (anglais) (EN)Les signets sont enregistrés dans ce navigateur. Créez un compte pour retrouver vos lectures sur vos autres appareils.
Créer un compteArgument d’un livre
Les outils, les permissions et les intermédiaires humains peuvent relier un logiciel à des conséquences réelles. Leur ampleur dépend de ses capacités, de ses accès et des protections. Le livre examine comment des systèmes beaucoup plus capables pourraient utiliser ces voies.
If Anyone Builds It · Chapitre 6 (anglais) (EN)Les signets sont enregistrés dans ce navigateur. Créez un compte pour retrouver vos lectures sur vos autres appareils.
Créer un compteDiscussion ouverte
Examinez quatre questions : comment détecter le danger à temps; qui aurait l’autorité d’arrêter le système; quelles copies et quels services connectés faudrait-il arrêter; quels tests démontreraient que l’arrêt fonctionne. La faisabilité dépend du système et de son déploiement.
If Anyone Builds It · Peut-on couper le courant? (anglais) (EN)Les signets sont enregistrés dans ce navigateur. Créez un compte pour retrouver vos lectures sur vos autres appareils.
Créer un compteRecevez des nouvelles des politiques sur l’IA et des activités. Votre adresse courriel suffit; vous pourrez préciser votre région lorsque vous souhaiterez participer localement.
S’abonnerVotre point de départ
Enregistrez vos réponses et retrouvez votre parcours sur un autre appareil.
Comprendre le risque
Comment pourrait-on perdre le contrôle d’un système d’IA? Découvrez les risques étudiés par les chercheurs.
Lire la synthèse sourceSource: Yoshua Bengio
EnregistrerCréez un compte pour y enregistrer cette lecture et la retrouver sur vos autres appareils.
Créer un compteÉvaluer les réponses
Ce qui serait mis en pause, ce qui continuerait, et comment une pause diffère d’une interdiction générale de l’IA.
Examiner la propositionSource: PauseIA
EnregistrerCréez un compte pour y enregistrer cette lecture et la retrouver sur vos autres appareils.
Créer un compteTester la coordination
Comment le contrôle des puces avancées et l’inspection des centres de calcul pourraient aider à vérifier le respect d’un accord.
Explorer les mécanismesSource: PauseIA (en anglais)
EnregistrerCréez un compte pour y enregistrer cette lecture et la retrouver sur vos autres appareils.
Créer un comptePasser à l’action
Les lettres, les rencontres et les manifestations peuvent montrer aux élus que la population souhaite des mesures face aux risques de l’IA.
Lire le résuméSource: PauseIA Canada
EnregistrerCréez un compte pour y enregistrer cette lecture et la retrouver sur vos autres appareils.
Créer un compteNous ne trouvons pas la connexion Internet
Tentative de reconnexion
Un problème est survenu !
Tentative de reconnexion