Séparer le battage médiatique de la réalité dans le monde de l'IA

Dans le contexte du battage médiatique autour du terme "intelligence artificielle" (IA), il est naturel de se demander comment définir réellement ce qu'est (et ce que n'est pas) l'IA.

De nombreux fournisseurs de technologie proposent des solutions réellement innovantes et utiles sous la bannière de l'IA, tandis que d'autres utilisent cette même bannière pour vendre ce qui est essentiellement de l'"huile de serpent" technologique, il peut être difficile de se frayer un chemin à travers le bruit et de faire la différence.

La première chose à dire est que l'IA, en tant que terme, n'est pas nouvelle.

Les débats font toujours rage sur la définition exacte de ce terme, mais si l'on prend la description la plus large possible (c'est-à-dire "tout algorithme qui imite un comportement humain"), il est clair que des exemples rentrant dans cette catégorie remontent à au moins 50 ans. Des fantômes qui poursuivent Pac-Man (et qui ont chacun leur propre façon de poursuivre le joueur) à l'ordinateur Deep Blue qui a battu Gary Kasparov aux échecs, des algorithmes de recommandation musicale de Spotify à la reconnaissance faciale de votre iPhone et au ChatGPT, les programmes informatiques de type humain ont imprégné nos vies depuis une génération ou plus.

Pourquoi est-ce important ?

En effet, bien que les fantômes de Pac-Man soient cool et, surtout, techniquement intelligents, ils ne sont plus à la pointe de la technologie. Mais tout spécialiste du marketing, naïf ou insidieux, qui souhaite reconditionner Pac-Man et le vendre sur les plates-formes les plus récentes peut légitimement affirmer que sa nouvelle version "tire parti de la technologie de l'IA pour révéler le véritable potentiel du jeu". Cela vous rappelle quelque chose ?

Un exemple plus pertinent serait de prendre l'un des algorithmes que nous utilisons pour nous aider dans notre analyse quantitative, comme un algorithme de regroupement pour une segmentation. Un algorithme de regroupement fait partie d'un groupe d'algorithmes appelés algorithmes d'apprentissage automatique, qui correspondent tous à la définition générale de l'IA. Par conséquent, vous pourriez légitimement commercialiser vos segmentations en les qualifiant d'"améliorées par l'IA", ce qui, bien que techniquement vrai, pourrait être interprété comme quelque chose de complètement différent.

Alors, comment faire abstraction de ce stratagème marketing pour séparer le bon grain numérique de l'ivraie ?

Chez Branding Science, nous avons développé une série de questions à poser lors de l'intégration d'outils d'IA, qu'il s'agisse de ceux que nous avons construits nous-mêmes ou de ceux de nos fournisseurs d'IA. que nous aimerions partager avec vous :

OÙ ET PENDANT COMBIEN DE TEMPS LES DONNÉES SONT-ELLES STOCKÉES ?

Il existe une variété de normes auxquelles les différentes entreprises adhèrent, sur la base des réglementations locales, des cadres de respect des données non obligatoires et des règles de conformité internes. Il est essentiel de comprendre les règles de votre entreprise en matière de stockage des données et de s'assurer que vos fournisseurs d'IA stockent également les données conformément à ces règles (par exemple, s'assurer qu'un fournisseur dispose de serveurs européens pour traiter les données personnelles créées dans l'UE).

Quelle est la procédure de traitement des événements indésirables (EI) ?

Chez Branding Science, nous veillons à ce que toutes les personnes en contact avec l'IA soient formées à la gestion des événements indésirables. Cependant, ce n'est peut-être pas le cas pour de nombreux fournisseurs d'IA. Il est donc essentiel de déterminer si vos fournisseurs disposent d'un processus de traitement des EI suffisamment solide et, si ce n'est pas le cas, de s'assurer que toutes les personnes qui interagissent avec les résultats de l'IA sont formées de manière appropriée. Cela inclut les EI contenus dans les données d'entraînement, comme cela peut être le cas pour les modèles entraînés sur les données des médias sociaux tels que ChatGPT.

COMMENT LES BIAIS SONT-ILS ATTÉNUÉS DANS LES RÉSULTATS DU MODÈLE ?

Il est très important, mais aussi très difficile, de comprendre où se trouvent les biais dans les résultats de vos outils d'IA. Seuls ceux qui ont eu accès à l'ensemble des données d'apprentissage et qui ont procédé à une analyse comparative des résultats seront en mesure d'identifier les biais existant dans le modèle. C'est pourquoi il est essentiel de savoir si cette analyse comparative a eu lieu et, si elle a révélé des biais, comment ceux-ci sont atténués.

COMMENT MINIMISER LE RISQUE D'HALLUCINATIONS ?

Les hallucinations constituent un problème majeur pour de nombreux grands modèles de langage (LLM) tels que ChatGPT. Elles sont définies comme des réponses trompeuses ou inventées/fausses à une question que le modèle rapportera avec une confiance absolue. Il est possible de mettre en place des garde-fous, par exemple en demandant à un LLM de citer ses sources, mais même ces mesures ne sont pas totalement infaillibles, et il est donc essentiel de comprendre quelles sont les mesures de protection en place.

QUEL EST L'ENSEMBLE DES DONNÉES D'APPRENTISSAGE POUR LE MODÈLE ?

Comme le dit le vieil adage informatique : "garbage in, garbage out". En d'autres termes, la qualité d'un outil d'IA dépend des données sur lesquelles vous l'entraînez. Comprendre ce que représentent les données d'entraînement (et donc ce que doivent représenter les résultats du modèle) est la chose la plus importante que vous devez essayer de comprendre à propos de tout produit d'IA avec lequel vous travaillez.

La frontière de l'IA est un monde nouveau et les progrès technologiques dans ce domaine sont beaucoup trop rapides pour que les régulateurs puissent les suivre. Cela signifie que, pour vous éviter des maux de tête maintenant (à cause des vendeurs d'huile de serpent) et plus tard (à cause des futures décisions réglementaires), vous devez développer une large compréhension de la terminologie de l'IA et des lignes directrices solides pour une utilisation sûre et efficace de l'IA au sein de votre entreprise. Quiconque n'agit pas maintenant se retrouvera dans quelques années à se demander où il est passé.

Écrit 100% par des humains, sans contribution de l'IA

Cet article a été rédigé par :

Gabe Musker

Scientifique des données

[email protected]

SÉPARER LE BATTAGE MÉDIATIQUE DE LA RÉALITÉ DANS LE MONDE DE L'INTELLIGENCE ARTIFICIELLE