Une lettre ouverte publiée par l’Institut à but non lucratif Future of Life, signée par plusieurs chercheurs et personnalités éminents de l’intelligence artificielle, dont Elon Musk, appelle à une pause temporaire dans le développement de systèmes d’IA à grande échelle en raison de préoccupations concernant les risques posés à la société et humanité. La lettre souligne que les laboratoires d’IA sont actuellement dans une « course incontrôlable » pour développer et déployer des systèmes d’apprentissage automatique difficiles à comprendre, à prévoir ou à contrôler de manière fiable.
La lettre appelle à une pause d’au moins six mois sur la formation des systèmes d’IA plus puissants que GPT-4 et demande que cette pause soit publique et vérifiable et implique tous les acteurs clés. Si une telle pause ne peut être décrétée rapidement, les signataires recommandent aux gouvernements d’intervenir et d’instituer un moratoire. Notamment, le nom du PDG d’OpenAI, Sam Altman, apparaît sur la liste des signataires, bien que des rapports suggèrent que son nom a peut-être été ajouté comme une blague.
Bien qu’il soit peu probable que la lettre ait un impact immédiat sur le climat actuel de la recherche en IA, elle reflète une opposition croissante à l’approche « expédier maintenant et réparer plus tard » que de nombreuses entreprises technologiques ont adoptée. Les signataires appellent à un effort conjoint entre les laboratoires d’IA et les experts indépendants pour développer et mettre en œuvre des protocoles de sécurité partagés pour la conception et le développement avancés de l’IA qui sont rigoureusement audités et supervisés par des experts externes indépendants.
Les signataires notent que même OpenAI a exprimé le besoin potentiel d’un examen indépendant des futurs systèmes d’IA pour s’assurer qu’ils respectent les normes de sécurité, et ils soutiennent que le moment est maintenant venu pour un tel examen. Bien qu’il reste à voir si cet appel à une pause sera entendu, il est clair que les inquiétudes concernant la sécurité et les implications éthiques de l’IA augmentent et pourraient potentiellement influencer les futures décisions politiques.
Vous pouvez lire la lettre en entier ici.
Rien de nouveau sous le soleil. Il suffit de voir toutes les peurs que suscitaient les premiers trains (tuberculose, épilepsies, décollements de rétines etc….). Elles nous paraissent bien ridicules aujourd’hui.
En revanche la guerre va changer de visage avec des drones et des quadrupèdes à mitrailleuses ( j’imagine les robots de Boston dynamics avec un chat gpt 10 dedans et une mitraillette classique). Ça va être une boucherie !
Oui c’est évident que les robots et l’IA seront de la partie dans les guerre, cela dit pas besoin de robots ou d’informatique pour faire des boucheries, exemple : les deux guerres mondiales et ses dizaines de millions de morts!