Hosting

Lorsqu’on lit certaines discussions entre développeurs ou architectes logiciels, on pourrait croire que la moindre application web nécessite aujourd’hui une infrastructure distribuée, un environnement Kubernetes et plusieurs services cloud spécialisés.

Pourtant, de nombreux services web, y compris ceux qui accueillent plusieurs milliers de visiteurs par jour, peuvent fonctionner aussi bien avec une architecture beaucoup plus simple.

Voici un retour d’expérience sur l’infrastructure de mes projets en production, dont certains dépassent les 5000 visiteurs quotidiens. Je l’ai également appliquée pendant des années au profit d’une compétition de sécurité informatique avec plus de 250 participants en temps réel.

Vous souvenez-vous de l’époque où écouter de la musique était aussi simple que d’appuyer sur un seul bouton ? Ces jours où vous entriez dans une pièce, activiez un interrupteur sur votre amplificateur, et vous vous retrouviez instantanément entouré de vos morceaux préférés ? Il y avait quelque chose de magique dans cette simplicité — pas d’ordinateur à démarrer, pas d’applications à naviguer, pas d’interfaces numériques complexes avec lesquelles se débattre.

Les IA génératives répondent aujourd’hui à de nombreux usages, et il serait dommage de ne pas en tirer parti. Cependant, à l’heure du RGPD, il est légitime de se questionner sur l’exposition des données de ses clients ou partenaires lorsqu’on se repose uniquement sur des prestataires d’IA dont le traitement des données reste opaque.

Ayant moi-même participé à la construction de l’un de ces nouveaux services d’assistant virtuel, je vous propose ici un guide simple pour démarrer une machine et évaluer les performances de votre application IA, ou pour offrir à vos employés un accès à une IA souveraine, dans le but de comparer facilement les différents modèles disponibles.

Utiliser les IA génératives sans partager ses données avec des entreprises ou des États qui raffolent de nos données, c’est possible et accessible.

Le monde des logiciels libres regorge d’applications pour évaluer et utiliser les IA génératives. Après de nombreux tests, je vous présente ici le fichier cloud-init pour déployer votre propre instance de LocalAI en moins de 5 minutes.

Pourquoi LocalAI ?

LocalAI est un logiciel libre qui a pour vocation d’offrir une alternative locale, auto-hébergée, aux prestataires de services d’IA. Cette application expose une API compatible avec celle d’OpenAI. L’idée est de pouvoir remplacer en un clin d’œil les appels à OpenAI de n’importe quelle application existante : il suffit de changer le domaine où pointe l’API.

J’ai installé le service d’intégration continue Woodpecker, afin de remplacer DroneCI, que l’entreprise l’ayant racheté a décidé de l’enterrer. Woodpecker étant un fork de la dernière version libre de Drone, son utilisation est globalement semblable.

Néanmoins, les équipes ont suivi des orientations différentes sur certains aspects, et la communication avec les agents/runners, qui se faisaient avant au moyen de websockets, est réalisée dans Woodpecker au moyen du protocole GRPC.

La solution proposée par la documentation de Woodpecker est d’utiliser 2 domaines : un sera utilisé pour l’interface web et l’API REST, le second pour GRPC. Est-ce vraiment nécessaire ?

Dans un monde idéalisé, nous serions tous libres d’accéder à tout service, mis à disposition par une communauté motivée par le bien commun plutôt que par l’enrichissement pénunié d’un petit nombre. Cependant, nous ne vivons pas dans ce monde.

Aujourd’hui, tout se monnaye : le moindre produit ou service rendu n’existe que s’il rapporte suffisamment d’argent, sans considération de l’intérêt commun. La gratuité apparente des services numériques s’accompagne souvent d’une contrepartie plus discrète mais pourtant bien lucrative : l’exploitation de nos données personnelles.