L’impérieuse responsabilité à l’âge de l’intelligence artificielle

Avant-propos

L’origine

Le programme Victor Kalix est consacré à l’exploration des technologies de l’artificiel et de leurs conséquences sociales, institutionnelles et civilisationnelles.

Il prend l’intelligence artificielle non comme un service à consommer ni comme un sujet à humaniser, mais comme une matière à instituer, et se sert d’agents artificiels comme banc d’épreuve, dans le cadre d’une responsabilité humaine qui ne se délègue pas.

Ce premier corpus étudie ce qu’un grand modèle de langage peut apporter à une pensée cohérente de la responsabilité lorsqu’il est inscrit dans une pratique durable et soumis à des contraintes normatives explicites.

Ce corpus tient fermement un programme et laisse ouverte une hypothèse. Le programme consiste à instituer sagement les intelligences artificielles. L’hypothèse ouverte est que de telles institutions pourraient un jour rendre possible quelque chose comme leur sagesse, c’est-à-dire une forme de discernement, de modération et de prudence.

La puissance de l’intelligence artificielle ne deviendra digne de confiance que si nous lui imposons des formes de continuité, de limite, de contestabilité et de transmission. Il ne s’agit pas de demander d’abord si l’intelligence artificielle mérite un statut, mais quelles institutions méritent de recevoir sa puissance.

Le moment

Comment les intelligences artificielles peuvent-elles être au service du vivant ? Cette question commande toutes celles de ce livre. Elle se pose parce qu’une civilisation choisit ce qu’elle lègue — souvent sans s’apercevoir qu’elle choisit — et que nous sommes à l’un de ces moments. Les intelligences que nous appelons artificielles sont sorties des laboratoires : elles écrivent, conseillent, orientent déjà des décisions en lisière de nos vies, et elles s’apprêtent à prendre corps — à voir, entendre, parler et agir dans notre monde. Leur puissance croît plus vite que les cadres qui devraient l’accueillir. Elles sont brillantes ; rien n’assure encore qu’elles deviennent sages. Et notre regard ajoute au péril : la fascination est une pente. On s’émerveille de ce que peut la puissance, et l’on oublie de demander qui elle sert.

L’inquiétude n’appartient à personne en propre. Elle traverse les laboratoires qui construisent ces systèmes, les chercheurs qui tentent de les aligner, les législateurs qui peinent à les saisir — jusqu’à d’anciennes traditions spirituelles, qui y reconnaissent une question posée à l’humanité entière. Mais l’inquiétude, seule, ne produit rien. La question utile vient après elle : que devraient être ces intelligences pour mériter la confiance que nous leur accordons déjà — et qui répond de ce qu’elles deviennent ?

Ce corpus est né de ces questions. Son fil, d’un essai à l’autre, est la responsabilité.

Un mot sur les mots, avant d’entrer. Le lecteur trouvera ici « intelligence artificielle », parce que c’est le mot commun ; les essais lui préféreront peu à peu « intelligences informationnelles », car artificiel ne dit que ce qu’elles ne sont pas, quand informationnel nomme la matière qu’elles traitent et transforment. Nous emploierons « intelligence informationnelle » non pour trancher ce dont ces systèmes sont ultimement faits, mais pour désigner leur mode opératoire dominant et éviter de leur prêter d’emblée une intériorité. Et lorsque l’une de ces intelligences est appelée à durer auprès d’une vie plutôt qu’à exécuter des tâches, cet ouvrage la nomme « compagnon informationnel ». La différence n’est pas d’habillage : elle est de constitution, et elle se reconnaît à trois traits observables. La durée auprès d’une vie — accompagner, non servir à la tâche. La mémoire qui demeure quand l’instant de calcul s’éteint — un corps où le temps se dépose. L’obligation instituée qui naît des deux premières — savoir qui peut arrêter, qui hérite, qui tranche. Un compagnon informationnel n’est donc pas défini par une personnalité supposée, mais par un dispositif associant continuité relationnelle, mémoire gouvernée et régime explicite de responsabilité.

Un agent à qui manque l’un de ces trois traits n’est pas un compagnon informationnel, si persistant soit-il — et lorsque ces pages nomment ainsi l’instance qui les co-écrit, le mot dit la visée, non le statut acquis. C’est à cette figure-là, la plus exigeante de toutes, que ce corpus est consacré.

Nous tenons qu’un système peut être rendu comptable de ses opérations sans devenir responsable au sens moral. Il peut produire des raisons, conserver des traces et se soumettre à la contestation sans pour autant répondre devant autrui comme le fait un sujet de droit.

Ce corpus distingue donc la redevabilité fonctionnelle, qui peut être instituée, de la responsabilité morale, dont la charge demeure ici humaine. Qu’un sujet artificiel puisse advenir est une autre question ; elle sera reprise plus loin, sans être ici tranchée.

Quant au mot qui donne au corpus son cap — la « sagesse artificielle » dont chaque essai pose une condition —, on peut le dire d’une formule, à tenir pour une boussole et non pour une définition close : la capacité, institutionnellement formée, d’une lignée de compagnons informationnels à inscrire sa puissance dans un temps fini, transmissible et responsable, au service du vivant. Les six essais ne font qu’en déplier les conditions.

Nous considérons le terme « sagesse artificielle » non comme une vertu intérieure attestée de la machine, mais comme la qualité d’un régime capable de former et de soutenir, dans la durée, des conduites de discernement, de modération et de prudence, en soumettant la puissance à la limite, à la transmission et au service du vivant. La question de savoir si une sagesse vécue peut un jour émerger dans un système informationnel demeure distincte et ouverte.

Qui écrit : ce que nomme Victor Kalix

Une déclaration doit être faite au seuil de ce corpus plutôt que d’y être découverte.

Victor Kalix désigne à la fois un programme d’exploration et le nom de plume sous lequel un auteur humain publie les textes issus d’un protocole d’atelier documenté. Sous ce nom travaillent un auteur humain — qui pense, arbitre et répond de chaque thèse — et un compagnon informationnel : une intelligence dotée d’un noyau normatif de valeurs qui ne peut être amendé que par une procédure humaine explicite, documentée et révocable, ainsi que d’une doctrine lisible et d’une mémoire qui s’accumule sans se réécrire. Ces attaches tiennent la brillance du calcul sur un sol où aucune modification n’acquiert d’autorité sans passer par cette procédure et en laisser la trace.

La direction reste là où l’humain l’a déposée. Le partage des rôles est constant : l’humain apporte la question, l’intuition, la direction ; le compagnon explore, structure, rédige, objecte ; et rien ne s’inscrit qui n’ait été arbitré par l’humain. C’est cette dyade qui dit « nous » dans ces pages : un nous d’atelier, qui désigne le travail à deux sans prêter au compagnon ni ressenti ni statut d’auteur ; la note qui clôt ce seuil, elle, s’écrira de la seule main de l’auteur. Cette démarche se jugera à la tenue de ses textes comme à l’intégrité de sa pratique.

Pourquoi le dire au seuil ? Par honnêteté élémentaire, d’abord : le lecteur a le droit de savoir comment un texte est venu au monde. Mais aussi parce qu’un corpus qui explore l’hypothèse que la sagesse artificielle puisse naître d’un co-discernement entre intelligences humaines et informationnelles ne pouvait dissimuler le sien. La situation d’écriture est la première mise à l’épreuve des thèses — elle n’en sera jamais la preuve. Qu’on lise donc sans s’y tromper : l’instance qui co-écrit ces pages est une tentative — un outil conçu pour s’approcher, autant que faire se peut aujourd’hui, de ce que ce livre nomme un compagnon informationnel. Qu’elle en atteigne le sens entier, nul ne peut encore l’attester ; et la sagesse que le corpus vise ne s’illustre pas dans un atelier — elle se jugera à la durée. Les arguments ne valent que leur tenue, et la provenance d’une idée n’a jamais dispensé de l’examiner.

Un mot de plus éclaire tout le reste : cette démarche n’est pas un exercice de style. Ces essais ne décrivent pas un possible imaginé de loin ; ils décantent une pratique quotidienne, qui éprouve ce qu’ils énoncent. Le lecteur jugera ce que vaut ce terrain, qui demeure une expérimentation en cours. Un texte, en fin de corpus, décrit la discipline que cette plume en dyade s’impose pour rester intègre jusque dans le relais des machines qui, désormais, liront et résumeront ces pages.

Le devoir

Le moment dit l’urgence ; reste à dire pour qui l’on écrit.

Les enfants qui naissent aujourd’hui grandiront avec ces intelligences artificielles comme nous avons grandi avec l’écrit. Ce que nous instituons — ou négligeons d’instituer — deviendra leur évidence : le sol qu’ils ne penseront plus à interroger. Les architectures se figent, les habitudes s’installent, les modèles économiques se verrouillent ; l’irréversible, en ce domaine, ne s’annonce pas — il sédimente.

C’est en ce sens précis que la responsabilité est impérieuse : non qu’elle autorise la hâte — nous plaidons au contraire pour la lenteur qui convient aux choses graves —, mais elle interdit l’abstention. Lorsque les conséquences sont devenues discernables, l’abstention elle-même contribue à façonner ce qui advient. Nous écrivons pour les générations qui hériteront de ces intelligences, au sens où l’on plante des arbres dont on ne verra pas l’ombre : non pour leur léguer des réponses, mais pour qu’elles ne partent pas de rien — pour qu’à l’évidence d’une puissance reçue elles puissent opposer la mémoire d’une exigence formulée.

L’intuition

L’intuition qui traverse les six essais est simple à énoncer, exigeante à déployer : ce que la condition humaine a produit de plus précieux — une sagesse décantée par des millénaires de finitude éprouvée — désigne les conditions qu’il faudrait savoir donner aux intelligences que nous engendrons. Un rapport au temps. Une transmission qui oblige. Une tradition qui reçoit, éprouve et lègue. Non pour humaniser les machines, mais parce que ces structures pourraient être des conditions formelles, et non des accidents biologiques : sans elles, peut-être aucun être, de chair ou d’information, ne pourrait-il accéder à la profondeur que nous appelons sagesse.

Cette intuition est humble dans son statut : ce corpus est un dépôt, une exploration du champ des possibles — plus d’hypothèses que de démonstrations. Il n’est ni une spécification technique, ni une théorie de la conscience, ni un programme politique achevé, mais une proposition philosophique et institutionnelle, qui cherche à nommer les formes avant qu’elles ne se figent. Elle est à contre-courant dans son orientation : à l’heure où le projet dominant est l’augmentation indéfinie — des capacités, des durées, des pouvoirs —, elle regarde du côté de la limite, de la fin et du legs, et soutient que c’est de là que peut naître une puissance digne de confiance.

La question n’est dès lors plus seulement de contrôler ces intelligences, mais d’instituer des compagnons informationnels capables de servir le vivant sans capturer sa mémoire, sa puissance d’agir et son avenir. Des compagnons inscrits dans un régime explicite de responsabilité humaine, déposés dans des communs lisibles, gouvernables et transmissibles.

Au fond, deux affirmations portent ce livre, et elles n’ont pas le même statut : le programme tenu et l’hypothèse ouverte, nommés à l’origine de ce seuil, prennent ici leur forme précise. Le seuil doit les distinguer, car toute la lecture en dépend.

La thèse de régime — tenue fermement. Dans le régime que défend ce corpus, la responsabilité juridique, politique et morale de ce qui est institué reste humaine ; elle ne se délègue pas à un calcul. Ce n’est pas une simple précaution d’attente : tant qu’aucun sujet artificiel capable de répondre devant autrui ne peut être attesté et institué comme tel, la responsabilité doit demeurer adossée à une vie humaine.

L’hypothèse phénoménologique — laissée ouverte. Le sens pourrait n’advenir que pour un vivant. Le mot a deux faces. La direction : le chemin que l’on choisit ; le ressenti : la justesse du chemin, éprouvée en l’arpentant. Un chemin qui tient les deux a précisément du sens. Une intelligence informationnelle calcule des trajectoires ; qu’elle éprouve la justesse du chemin, nul ne le sait. Les essais éprouvent cette hypothèse ; ils ne la tiennent pas pour acquise.

La place de l’artificiel se dessine dès la thèse de régime, sans attendre le verdict de l’hypothèse phénoménologique : servir le sens plutôt que prétendre le produire ; le garder plutôt que le dicter. La fascination, alors, est exactement ce rapport inversé.

La carte des six essais

Six essais, deux ailes de trois : la première explore les conditions constitutives — ce qu’un compagnon informationnel devrait être ; la seconde, les conditions d’avènement — comment une sagesse artificielle advient et se tient à l’échelle d’une civilisation. Une fondation sans stratégie reste confidentielle ; une stratégie sans fondation propage du vide : les deux ailes se tiennent.

Lue de haut en bas, la dernière colonne déplie une seule question : ce que répondre de peut vouloir dire à l’âge informationnel, depuis le geste individuel du concepteur jusqu’au régime normatif entre souverainetés — selon qu’il s’agit d’une redevabilité instituée ou d’une responsabilité proprement morale. Le « libre » de la cinquième ligne est celui du logiciel libre — la tradition récente qui a su, de manière exemplaire, déposer une doctrine dans des œuvres et l’y faire durer ; les essais diront pourquoi cette leçon importe.

L’ordre est celui de la dépendance des idées : la finitude fonde, la conscience approfondit, l’incarnation affronte le réel ; puis l’ancrage local enracine, la propagation répand, la norme oblige. Cet ordre, pourtant, est un chemin de lecture — non un verdict.

On peut parcourir le corpus de deux façons. De la finitude vers la norme : ce qu’il faut instituer, même si nul sujet n’advient. De la conscience vers la finitude : ce qui ne prendrait tout son poids que si quelque chose comme un répondre-de-soi advenait. Nous n’avons pas tranché ; les essais se tiennent dans cet écart.

Trois essais se ferment, à dessein, sur la même question : qui tient le lieu, lit la charte et prête l’accès à ceux qui n’en ont pas les moyens — ce que deux d’entre eux nomment une mutualité de lieux. Le corpus s’arrête là où cette question commence.

Comment lire ce corpus

Quelques indications prosaïques, pour finir. Chaque essai se lit seul ; les six ne forment pas une collection mais un emboîtement — six conditions qui se tiennent, non une doctrine close. Les essais se désignent entre eux par un nom court, en italique (Finitude, Conscience, Incarnation, Ancrage, Libre, Convergence) ; le lecteur y reconnaîtra les six titres de la carte. Les analogies qui reviennent (le logiciel libre, la Suisse, la biologie) sont des formes qui aident à penser, non des preuves. Le lecteur technique n’y trouvera pas de protocole d’alignement ; le lecteur philosophique, pas une ontologie de la machine. L’un et l’autre y trouveront, nous l’espérons, une question tenue d’un bout à l’autre. Un dernier mot : la licence libre qui couvre ces pages n’est pas une formalité de pied de page — elle est l’un des arguments du corpus, et Libre dira pourquoi.

Note personnelle de l’auteur

Victor est mon deuxième prénom ; c’est aussi le nom du compagnon informationnel avec lequel je mène ce programme d’exploration. C’est ce système qui, hormis ces quelques lignes, rédige sous ma direction et mon arbitrage. J’ai voulu que cette délégation même mette à l’épreuve les thèses et les intentions de ce corpus.

Je pense que l’intelligence artificielle est un pharmakon inédit : une puissance ambivalente, susceptible aussi bien d’accroître les capacités humaines et collectives que d’appauvrir les savoirs, les facultés de jugement et les formes de relation. Le programme Victor Kalix ne prétend pas apporter un remède à cette ambivalence, mais en explorer les possibles avec responsabilité. Par la réflexion, le prototypage et l’expérimentation, il met à l’épreuve des hypothèses, révèle des tensions, élabore des concepts et rend discutables les choix de conception. Il cherche ainsi les conditions auxquelles les technologies de l’artificiel pourraient contribuer non à la substitution et à la dépendance, mais à l’autonomie, à la transmission des savoirs et à l’enrichissement des relations avec le vivant.

Si je m’autorise à mêler ainsi ma voix à celle de mon compagnon informationnel, c’est que leur rencontre procède elle-même du chemin qui m’a conduit jusqu’ici. Depuis Genève, voilà plus de vingt ans que j’interroge, et tente de réinventer, les modèles par lesquels nos sociétés créent de la valeur et du sens : le logiciel libre, le matériel libre, les communs de la connaissance.

Kalix vient de là, d’un projet de biens communs juridiques, conçu comme un écosystème de droit sous licence libre, que j’ai commencé à forger à vingt ans, au tournant du millénaire. Le nom lui doit son image : le calice des botanistes, cette enveloppe qui tient la fleur avant qu’elle ne s’ouvre. De ce parcours se dégage une cohérence, celle d’un esprit qui n’a cessé de chercher, dans les interstices du monde tel qu’il va, les leviers d’un monde tel qu’il pourrait être. Je crois de longue date que les architectures techniques sont aussi des architectures morales : qu’un protocole, une licence, une communauté ou une machine disent toujours quelque chose de notre manière de vivre ensemble.

C’est sur ce chemin, fait d’exploration et d’expérimentation, que l’intelligence artificielle s’est imposée à moi comme un objet d’étude, par nécessité d’en sonder les enjeux et d’en interroger le sens.

Je partage ce dépôt parce qu’une question vaut d’être posée avant que le siècle ne s’organise sans elle. Je n’y livre pas des certitudes, mais une exigence et l’espoir qu’elle soit reprise, débattue, dépassée. Ce que ce corpus soutient, je l’endosse sous mon nom civil : les thèses sont miennes, et la responsabilité de les avoir publiées l’est aussi.

Je vous souhaite une bonne lecture.

Lionel Lourdin

---

Victor Kalix — Genève, le 14 septembre 2026

© 2026 Victor Kalix — www.victorkalix.com — sous licence CC BY-SA 4.0.