La technologie aide les fournisseurs à vérifier la qualité de leurs outils d’IA et donne aux entreprises la confiance nécessaire pour les utiliser.
Il y a eu récemment beaucoup de discussions sur les dangers de l’IA. Par exemple, une enquête récente menée par Deloitte auprès de 2 800 dirigeants a révélé que près de 75 % d’entre eux estiment que leur organisation n’est pas préparée aux risques émergents que présente l’IA. Travaillant pour développer la confiance dans l’IA, Armilla AI fournit des solutions de mitigation et de transfert des risques pour aider les entreprises à déployer en toute sécurité des outils d’IA.
Armilla propose une technologie d’évaluation propriétaire qui évalue et quantifie le niveau de risque des modèles d’IA. L’entreprise propose une évaluation globale qui analyse la qualité des données, les performances et la précision du modèle, l’équité, l’interprétabilité et la robustesse, identifiant une IA sûre, éthique et digne de confiance qui est en accord avec les réglementations et les normes.
En évaluant les modèles, Armilla aide les fournisseurs d’IA à détecter les biais cachés qui peuvent affecter les populations protégées, à identifier les points faibles de leurs modèles, et à établir des seuils spécifiques à chaque cas d’utilisation pour un comportement acceptable de la technologie. Cette analyse, à son tour, aide les fournisseurs à renforcer leur crédibilité et à préparer leur technologie pour l’avenir.
Avec le soutien de grands assureurs tels que Chaucer, Greenlight Re et Swiss Re, l’entreprise propose une garantie « Armilla Guaranteed » pour les modèles d’IA qui sont jugés sûrs et efficaces lorsqu’ils sont mesurés par rapport à des indicateurs clés. Cela signifie que si un modèle sous-performe, les entreprises qui ont acheté l’outil d’IA peuvent recevoir un remboursement du produit, ce qui aide à dérisquer l’achat de ces technologies tierces.
Armilla est un diplômé des accélérateurs Y-Combinator, Lloyd’s Lab, et Betaworks’ AI Camp. L’entreprise a récemment levé 4,5 millions de dollars (environ 4,1 millions d’euros) lors d’un tour de financement initial dirigé par Mistral Venture Partners, avec la participation des fournisseurs d’assurance Greenlight Re et Chaucer ainsi que MS&AD Ventures, SixThirty Ventures, Morgan Creek Digital, et Y Combinator.
Avec l’IA utilisée pour un nombre croissant d’applications, y compris la découverte de gisements minéraux et la rationalisation de la restauration de la nature, il est essentiel que les organisations puissent faire confiance aux modèles qu’elles utilisent. Armilla pourrait jouer un rôle essentiel dans l’apport de cette assurance.
Pour en savoir plus : Armilla AI
