Armilla AI a lancé AutoGuard, un pare-feu intelligent, pour aider les entreprises à déployer des modèles d’IA génératives en toute sécurité et à protéger les utilisateurs et les entreprises contre les dommages potentiels.
Les capacités de l’IA générative sont remarquables, mais ses lacunes comportent des risques importants pour les entreprises. De l’élimination des préjugés et de la réduction des hallucinations à l’amélioration de la sécurité et à l’élimination des problèmes de confidentialité, AutoGuard est une solution complète pour déployer des solutions d’IA générative sûres et responsables au niveau de l’entreprise.
AutoGuard rejoint AutoTune en tant que deuxième produit de sa plateforme d’IA générative AutoAlign. Les deux utilisent le même framework AutoAlign intégrant un réglage fin du feedback automatique et sont livrés avec une bibliothèque de contrôles prêts à l’emploi, comme la protection de la vie privée, la protection contre les fuites d’informations confidentielles, l’hypothèse de genre, la protection contre le jailbreak et la détection des préjugés raciaux, ou peuvent être personnalisés. avec des contrôles d’alignement spécifiques. Cela signifie que les clients peuvent appliquer le comportement de leur modèle d’IA, exprimé dans des récits en langage naturel.
« Il y a un appel croissant au sein de l’industrie selon lequel, à mesure que l’IA générative évolue, nous devons fournir des protections au moment de l’exécution pour garantir que ces modèles fonctionnent en toute sécurité. D’après nos propres tests, les commentaires de nos clients et des experts de l’industrie, les entreprises ont besoin de ces garde-fous pour se conformer à des initiatives telles que le nouveau code de conduite volontaire du Canada pour l’IA générative », déclare Rahm Hafiz, directeur technique d’Armilla. « Notre approche est plus puissante que les garde-fous basés sur la syntaxe ou les ajustements traditionnels seuls, et elle est essentielle pour faire évoluer des déploiements sûrs et fiables à mesure que les entreprises commercialisent leurs modèles. »
La solution AutoGuard d’Armilla peut générer ses propres données et affiner le garde-corps d’un client à l’aide de commentaires automatisés basés sur la façon dont l’entreprise a demandé au modèle d’IA de se comporter. Tout au long du processus, l’IA d’Armilla aligne AutoGuard à travers une série d’étapes : comprendre les objectifs du modèle cible, générer des données pour capturer les limites du comportement du modèle, tester de manière itérative, découvrir les points faibles et enfin renforcer son propre modèle de garde-corps.
Le résultat est une plateforme conviviale qui rend l’IA générative plus sûre, fiable et éthique lors de son déploiement. AutoGuard est actuellement utilisé par un groupe sélectionné de clients, notamment :
- Les éditeurs de logiciels RH appliquent l’IA générative à leurs processus RH mais exigent que l’équité soit intégrée dans leurs solutions
- Les institutions financières cherchent à développer des solutions d’IA générative responsables
- Cabinets de conseil traitant de données confidentielles et sensibles
