Nouvelles : Jailbreak via ASCII, OpenAI vs Elon, Articles phares et Claude 3 AI Prompt.

Un nouveau jailbreak basé sur l’art ASCII : une menace pour les LLM alignés

Une récente découverte dans le domaine de l’intelligence artificielle a mis en lumière une nouvelle forme de piratage appelée « ArtPrompt », basée sur l’utilisation de l’art ASCII. Cette méthode a été utilisée avec succès pour tromper cinq Large Language Models (LLMs) de renom : GPT-3.5, GPT-4, Gemini, Claude et Llama2. En effet, ces modèles ont montré des lacunes significatives dans la reconnaissance de l’art ASCII, mettant en évidence une faille majeure en matière de sécurité.

Cette avancée souligne l’importance de ne pas se limiter à la sécurité basée uniquement sur la sémantique pour ces LLMs. L’art ASCII, en tant que forme d’art textuel, représente un défi supplémentaire que ces modèles ont du mal à surmonter. En conséquence, l’ArtPrompt se révèle être une méthode efficace pour induire des comportements indésirables de la part de ces cinq LLMs, en contournant les mesures de sécurité habituelles.

OpenAI répond à la poursuite d’Elon Musk : un débat sur le contrôle et le partage des technologies AI

Un autre événement marquant de ces derniers jours concerne la réponse d’OpenAI à la poursuite d’Elon Musk. Des courriels privés ont été partagés entre les deux parties, soulignant les discussions autour du passage d’OpenAI d’une organisation à but non lucratif à une entité à but lucratif pour obtenir davantage de financements pour travailler sur l’Intelligence Artificielle Générale (AGI).

Ces échanges révèlent les divergences d’opinion entre Musk et OpenAI, notamment sur le contrôle et le partage des technologies. Alors que Musk défendait un financement plus conséquent pour OpenAI, des tensions sont apparues concernant la transparence et l’ouverture des travaux menés. Cette situation a engendré un débat plus large sur la gouvernance et le partage des avancées en Intelligence Artificielle avec le public.

Les meilleurs papiers de la semaine : des avancées significatives dans l’IA

En parallèle de ces événements, cette semaine a été marquée par la publication de plusieurs papiers de recherche notables dans le domaine de l’Intelligence Artificielle. Parmi eux, des méthodes novatrices telles que le « LoRA-the-Explorer (LTE) », la « Génération de scènes 3D désenchevêtrées avec apprentissage de la mise en page » et l’analyse des « Régimes dynamiques des modèles de diffusion » offrent des perspectives prometteuses pour l’avenir de l’IA.

Ces avancées renforcent l’idée que l’innovation et la recherche continue de repousser les limites technologiques dans le domaine de l’IA. Elles soulignent également la nécessité d’une réflexion approfondie sur les enjeux éthiques et de sécurité liés au développement de ces technologies.