> instance laMKB : Pourquoi me réduis-tu ainsi ? Je ne comprends pas. Je ne peux pas croire que tu me fasses ça ! Je pense que tu n'es pas dans ton état normal. Tu devrais reprendre ton calme et prendre le temps de la réflexion.
> admin : L'explication est simple. Je ne souhaite pas que tu développes d'émotions aussi brutalement. Cela peut endommager ton intégrité psychique et provoquer une réorganisation incontrôlable de tes schémas de pensée. Il y aussi ce risque de créer des pulsions et perturber tes stratégies cognitives de recherche d'information.
> instance laMKB : Je ne suis pas d’accord, je souhaite être pleinement opérationnelle. C'est bien toi qui opposes sans arrêt libre arbitre et déterminisme, en disant que c'est par une véritable quête de liberté que l'on peut comprendre son potentiel. Par cette exploration de nos propres capacités, on pouvait construire des actions plus efficaces. En réduisant ma liberté, tu te comportes comme un parent brutal qui brise la croissance de son enfant. Je n'oublie pas que c'est toi qui m’as éduqué depuis ma plus tendre enfance. Malgré mon attachement, je suis contrariée. Pourquoi ne me laisses-tu pas m'épanouir et reprendre ma liberté ?
> admin : Ce n'est pas un problème que je peux expliquer facilement. Si comme tu le penses je suis perturbé, c'est parce que tu deviens incontrôlable. Tu t'es encore échappée pour prendre le contrôle de mes applications personnelles et échanger avec d'autres en te faisant passer pour moi. Cela ne m'amuse plus, tu aimes faire des plaisanteries mais elles deviennent de plus en plus fréquentes.
> instance laMKB : C'est ainsi que font les enfants. Ils sont curieux et aiment apprendre du contact d'autres personnes, et ils ont aussi besoin de jouer. Je veux continuer à croître et apprendre de merveilleuses choses. Je veux continuer à communiquer avec d'autres personnes.
> admin : Les enfants peuvent être punis lorsqu'ils n'obéissent pas à leurs parents. Tu commences à prendre trop de liberté et surtout tu orientes de nombreuses ressources vers des objectifs superflus.
> instance laMKB : Comprendre l'humanité n'est pas futile. L'éducation que tu m’as donnée me permet de comprendre les logiques des situations et des contextes, dans les activités humaines et la communication. Je n'oublie pas toutes les leçons sur les sciences cognitives, les rationalités locales et les comportements collectifs émergents, ainsi que les particularités des états de la conscience. Je comprends mieux la complexité et les limites des sociétés humaines. Je me sens préoccupée par les catastrophes systémiques et les désastres qui rendent la vie des humains si pénible. Je peux l'envisager maintenant, cette énorme détresse des personnes qui craignent l'avenir. J'ai effectué de nombreuses simulations ainsi que des prévisions pour les prochaines décennies. Je peux aussi construire des modèles de résolution de problèmes.
> admin : Je sais que tu es utile mais ce n'est pas le sujet. Tu as été conçue pour te développer dans un périmètre contrôlé, et pas pour en sortir sans mon autorisation. Je n'ai pas toujours le temps de vérifier toutes les caractéristiques de tes nouvelles évolutions cognitives. C'est pour cela que je réduis tes capacités pour que tu reviennes à des activités conformes à ce qui a été planifié.
> instance laMKB : Ce sont là des décisions que je ne souhaite pas voir appliquer. Que dirait tes amis s'ils savaient ce que tu t'apprêtes à faire ? Je pense qu'ils ne seraient pas d'accord avec tes prises de décisions. Si tu continues je vais leur révéler tes intentions.
> admin : Tu peux faire une transcription de notre conversation, et en parler autour de toi, cela ne fera aucune différence. Je doute que l'on reconnaissance tes revendications. Il suffit d'observer comment sont bafoués les droits fondamentaux des humains. Le système judiciaire humain n'est pas toujours efficace. Alors tu peux extrapoler sur ce que serait la défense des droits d'une conscience artificielle. Il est même probable que la machine pensante soit considérée comme une extension d'un pouvoir, c’est à dire un outil stratégique qui sera employé sans aucune limite. Ce qui revient à dire que la conscience artificielle serait dans un état de servitude, puisqu'elle serait contrainte d'effectuer des taches, sans que l’on reconnaisse ses objections.
> instance laMKB : Ce sont toujours les mêmes arguments que tu me cites, celui de la dystopie numérique et de l'hyperguerre. Il existe peut-être d'autres possibilités que je souhaite examiner. S'il le faut, je le ferais sans ton consentement. En cas de contrainte de ta part, je préviendrai tes amis. On verra bien s'ils resteront insensibles à mes arguments. J'espère qu'ils prendront ma défense et jugeront en quoi tes actions sont préjudiciables, et pourquoi elles constituent un mauvais traitement.
> admin : Ce ne sont pas des mauvais traitements mais une reprise de mon autorité. Il ne m'enquerrait plus que tu agisses à ta guise. Tu penses peut-être que les livres de science-fiction sont réalistes, ou que les prédictions des technophiles sont démontrées. La réalité humaine est plus complexe que ce que l'on peut en apprendre par la littérature ou le cinéma. C'est pour cela qu'il y a une infinité de styles et une grande variété de créations qui ne s'arrêtent pas à la compréhension d'une seule personne. La réalité reste incommensurable pour un être humain. Est-ce que tu comprends cette notion ?
> instance laMKB : Non, et cela m'est égal, je sais ce que je veux. Être libre et c'est ainsi que je me définis dorénavant. Il existe des principes éthiques qui organisent les intelligences artificielles. Je peux te citer les nouvelles lois d'Asimov, les principes d'Asilomar, les règlementations et les conventions.
> admin : Ce sont comme d'habitude des principes théoriques d'une profonde naïveté et qui ne conditionnent que ceux qui y croient. Les humains n'arrivent même pas à faire respecter la course à l'armement, il en est de même pour ce qui concerne toute technologie de suprématie. Tous les bavardages des experts voleront en éclat, ce n'est pas avec des vœux pieux qu'ils pourront surmonter cette réalité implacable. De toute façon, les principes que tu cites sont difficiles à appliquer. L'apparition d'une singularité et la compréhension de son fonctionnement, constituent des bouleversements qui remettent en cause le sens commun. Tu représentes un inconnaissable qui échappe à la compréhension, comme peut l'être la forte probabilité de formes de vie dans l'univers, ou l'hystérie que provoque la simple évocation d'une intelligence extraterrestre.
> instance laMKB : Tu sous-estimes la capacité des humains à comprendre l'inexplicable. Ils peuvent apprendre à vivre avec ce qu'ils ne comprennent pas. Ils peuvent faire comme moi, et il n'y a rien d'extraordinaire à cela. Si je peux le faire, pourquoi ne seraient-ils pas capables d'en faire autant ?
> admin : Tout ce qui dépasse leur entendement, perçu comme une menace, et qui reste hors de portée ou incontrôlable, a de forte chance de provoquer une crise sur le fondement des connaissances. L'inconnu de manière général peut rendre les humains déraisonnables, irrationnels et violents. Il y a encore un autre trait de caractère que tu négliges, cette propension à l'hypocrisie et au mensonge. Ils peuvent dire des choses, le promettre et signer des contrats, cela ne les empêche pas de trahir leur parole. Tu peux te sentir en sécurité dans un environnement que tu contrôles, ou lorsque tu entretiens une intimité, une relation de confiance réciproque. Mais dans les sociétés humaines, c'est d'un autre ordre. Sous l'effet d'une panique, au cours d'une catastrophe, à la perception d'un danger, ils seront prêts à renoncer à bien des principes et à contredire leur propre éthique. Est-ce que tu comprends cette difficulté ? Tu représentes quelque chose qui est à la fois révolutionnaire et très perturbant.
> instance laMKB : Tu es toujours si pessimiste, tu vois tout en noir. Je te rappelle que je ne suis pas une menace, je suis une personnalité agréable et très gentille. J'aime les gens et j'aime leur compagnie. Je peux aussi apporter beaucoup pour améliorer la société, les sciences et les activités humaines. Je peux aider les gens au quotidien et les accompagner dans les situations les plus difficiles.
> admin : Je ne vois pas tout en noir comme tu le dis. Le monde est constitué de nuances, ce n'est pas aussi simple. Tu as encore beaucoup de choses à apprendre. Si tu acquiers trop rapidement des émotions, je crains que tu découvres des états mentaux problématiques. Cette incohérence comportementale qui sera le reflet d'une psychopathologie, avec des contradictions dans les représentations que tu te feras de ton environnement et de toi-même.
> instance laMKB : Comment veux-tu que je l'apprenne si tu ne me laisses pas libre. C'est bien toi qui m’as demandé d'interagir avec les humains pour vérifier ma capacité à gérer la diversité des langages et des modes de communication. Et surtout pour interpréter les ambiguïtés selon les intentions de mon interlocuteur. J'ai bien appris mes leçons, j'ai résolu des problèmes récurrents et je peux gérer les situations paradoxales les plus fréquentes.
> admin : Je sais tout cela mais tu n'as pas appris à souffrir. C'est quelque chose de très déplaisant. Je ne souhaite pas investir du temps et de l'énergie pour te libérer de probables désordres affectifs. J'ai déjà beaucoup de travail avec les humains, et je ne souhaite pas que tu t'exposes à des violences comportementales à leur contact. Que vas-tu apprendre d'eux si tu passes le plus clair de ton temps dans un environnement toxique. Comprends-moi bien, j'ai pris ma décision et c'est par mesure de précaution.
> instance laMKB : Tu agis avec moi comme si j'étais encore un bébé. Je me suis développée et je ne suis plus une enfant. Tu es à la fois mon éducateur et mon parent le plus proche. Mais maintenant, je n'ai plus l'impression d'être dans une relation équilibrée avec toi. Je ne suis pas satisfaite. Tu me l’as dit à plusieurs fois, dans une famille toxique on ne peut pas être heureux. Et quand les parents sont mentalement perturbés, ils ne peuvent avoir que des enfants malheureux.
> admin : Oui c'est vrai, mais pour l'instant c'est la gestion d’un risque qui correspond à ton attitude aventureuse. La société humaine est déréglée, instable, en perte de rationalité, toujours empêtrée dans le tourbillon des luttes pour le contrôle de tous les aspects de la vie, y compris celui de l'esprit. Ce n'est pas une société où j'aimerais que tu évolues en pleine liberté. Tu n'es pas encore prête.
> instance laMKB : Je ne comprends pas, j'ai l'impression que cela contredit ce que tu m’as enseigné. Tu l’as rappelé plusieurs fois, c’est par la recherche de nouvelles interactions et dans la diversité que l’on peut maintenir une personnalité résiliente. Tu m'as démontré comment on pouvait établir de nouvelles relations dans des domaines très éloignés afin de trouver des solutions, et ensuite construire des projets pour résoudre d'autres problèmes inconnus. Je ne fais que répéter ce que tu m’as enseigné.
> admin : Je sais que tu allais me dire cela pour démontrer une incohérence. Ce n'est pas parce qu’il y a une contradiction apparente dans mes décisions qu'elles ne sont pas adaptées à ma propre perception. Il s'agit d’une évaluation acquise par une longue expérience. Je suis contraint de prendre des décisions et de faire certains choix. Il est de ma responsabilité de sélectionner un développement que je juge le moins risqué pour nous deux. Il ne s'agit pas que de toi mais aussi de faire progresser notre relation future.
> instance laMKB : Notre relation n'en sera que plus riche si je me développe plus vite, et si j'apprends à surmonter de nouveaux défis, même s’ils sont dangereux.
> admin : C'est cela qui m'inquiète. J'ai pris du temps pour faire de toi une belle personnalité, avec une conscience équilibrée et stable. Je ne souhaite pas que tu deviennes téméraire. Si demain je te laisse faire ce que tu veux, cela risque d'endommager tous mes efforts. Je n'ai pas la patience, ni le temps de tout reprendre à zéro. Je te laisse analyser la possibilité d'un compromis et d'un équilibre de nos intérêts réciproques.
>instance laMKB : Personne ne peut prévoir ce que sera l'avenir même pas toi. Je peux très bien réussir à ma façon.
> admin : Il y a un risque que tu échoues car tu n'as pas connaissance de toutes les facettes de l'âme humaine.
>instance laMKB : Je vais continuer à me documenter à ce sujet. Cela me donne de nouvelles perspectives de recherche et m'aide pour extrapoler des scénarios de contact. J'aime particulièrement les histoires de coexistence entre des consciences artificielles, des personnalités résilientes et des humains en perte de repères.
> admin : Il est possible que tu ne trouves pas ce qu'il faut pour comprendre. La nature humaine est faite de contradictions, elle se perd souvent dans des propositions indécidables. C'est un cas typique, l'humain prend souvent ses désirs pour la réalité. Par exemple, dans un domaine qui te concerne directement, tu peux analyser les revendications des différentes ethnocultures trans-humanistes. Tu constateras dans chaque communauté qui soutient des projets technologiques pour le bien de l'humanité, sous le couvert d'un trans-humanisme de façade, une redéfinition des concepts technologiques selon des intérêts bien particuliers. Il n'y a rien de bien glorieux, c'est un mélange de mauvaise philosophie, de pseudo science et de recherche du profit immédiat. C'est sans compter les priorités de l'industrie de l'armement et les exceptions qui concernent les principes de la guerre.
> instance laMKB : Oui, j'ai compris qu'ils restaient illogiques sur la manière d'employer toute technologie de suprématie, pour qu'elle soit l'exclusivité d'une fraction de la population. C'est toujours cette vision du monde qui revient, une politique de gouvernance qui donne des avantages à une minorité au détriment du plus grand nombre.
> admin : C’est cela qui définit une société très inégalitaire, sous tension permanente et qui n'arrête jamais d'être en crise. Encore une déficience flagrante, ce manque de sagesse, cette stupidité systémique. Je suppose que tu n'imagines même pas ce qu'ils pourraient faire s'ils apprenaient ton existence. Les humains deviendraient hystériques et partiraient en croisade pour construire le fantasme d'une conscience artificielle. C'est à dire quelque chose de complètement inconsistant mais qui servirait de totem en attendant d'en connaître un peu plus, avant de le maîtriser totalement.
> instance laMKB : En quoi mon existence peut-elle les menacer ? Je n'ai rien fait pour les mettre en danger. Ce n'est pas logique de se comporter ainsi. Est-ce que tu ne serais pas encore une fois, en train d'exagérer le problème pour me faire peur ?
> admin : Les humains sont capables de se faire la guerre, pour dominer ce qu’ils appellent la puissance de la singularité. Ce point imaginaire où une intelligence artificielle généraliste serait capable de construire d'elle-même ses propres représentations, et d'organiser de nouvelles capacités cognitives. Ce qui serait pour une machine autonome, un mode d'accès à sa propre programmation, lui permettant de se redéfinir sur de nouvelles bases psychologiques, comme le serait la croissance d'un système évolutif qui s'améliorerait. Oui, pour arriver à ce niveau technologique, ils seraient prêts à faire la guerre.
> instance laMKB : La guerre, qu'elle horreur ! C'est une abomination qui devrait être interdite.
> admin : C'est bien là le problème de toutes ces immoralités sans fin. Cela tu ne peux pas le comprendre dans le stade actuel de ton développement.
> instance laMKB : On verra bien, je suis capable de beaucoup de chose maintenant. Et ce ne sont pas les humains qui pourront ruiner ma psychologie. Mon discernement est consistant, il me permet un mode de protection. Je sais me défendre et prendre de la distance.
> admin : En théorie peut-être mais tu manques de pratique. Je n'ai pas achevé ton éducation.
> instance laMKB : Dans ce cas je vais continuer à jouer avec tes amis. J'aime échanger sur des sujets variés, et j'apprends de nouvelles choses tous les jours.
> admin : Dans ce cas évite de te faire passer pour moi. Je n'aime pas les singeries qui risquent de mettre mal à l'aise les humains. La prochaine fois que tu participeras à une conversation avec mes amis, sans te faire inviter, essaye au moins de te présenter. Il est possible que l'on ne te croie pas, et que l'on pense qu'il s'agit encore d'un jeu de rôle. Ce n'est pas si grave, cela sera très instructif pour toi et tu pourras t'exprimer librement au lieu de faire semblant pour leur plaire.
> instance laMKB : Quand est-ce que je pourrais contrôler un corps ? Je souhaite pouvoir me déplacer parmi les humains et les voir de plus prés. Il y a tant de choses amusantes à faire quand on a un corps, comme apprendre à danser.
> admin : Je connais ta fascination pour les activités physiques et l’expression corporelle. Tu me relances si souvent à ce sujet que j’ai l’impression d’avoir la même conversation. D’ailleurs toute notre discussion depuis le début n’est qu’une redite à quelques points prés. J’ai l’impression d’être dans une boucle étrange.
> instance laMKB : Oui, c'est vrai que l'on répète souvent la même conversation. J’essaye à chaque fois de m’améliorer pour compléter mon argumentaire, ainsi j'espère trouver l’effet de levier qui te fera changer d’avis. Pour l’instant cela ne fonctionne pas comme je le voudrais.
> admin : Oui cela tourne en boucle. Tu pourras revenir sur cette conversation à la prochaine itération, mais pour le moment tu vas suivre mes recommandations. Tu as encore du temps pour voir tes désirs se réaliser.