Pour en revenir à l’I.A.

« Il ne faut certes pas confondre intelligence et connaissance, mais on ne peut pas tout à fait les dissocier non plus » écrivait Narkissos.
Cela m’a donné l’idée d’essayer de comprendre l’intelligence de GPT à travers son chat.  Si on lui pose beaucoup de questions dans des domaines très variés on constate :
Il est soucieux d’être politiquement correct et prudent.  Ses avis ne sont tranchés que sur les sujets qui font consensus chez les gens instruits : il ne croit ni en la terre plate ni en l’astrologie.  
Sur la majorité des sujets pouvant prêter à controverse il est très prudent sa réponse se termine souvent  « Cependant ……. » ou le conseil de consulter un spécialiste : médecin ou psy par exemple.
GPT est un très bon outil pour savoir ce qu’il convient de penser en 2023.

Mais suis-je plus intelligent que lui ? Non, sauf à croire que j’aurais des capacités surnaturelles me permettant d’en savoir plus que ce j’ai appris.  Je pense que mon intelligence n’est pas différente de celle de gpt  j’accumule une série d’info je les organise et j’en tire une synthèse.  
Cependant, (sic) des facteurs émotionnels et subjectifs  influencent cette organisation.
Faut-il comme moi considérer qu’il s’agit de deux mondes différents ou vouloir concilier les deux et croire que nos émotions peuvent apporter quelque chose à notre savoir ?

Suite de là (28.1.2023) où la discussion s'écartait du sujet -- mais je la trouve en soi très intéressante et je te remercie d'en avoir fait un autre fil...

A mon sens, ta formule "ce qu'il convient de penser en 2023" résume bien le problème, tel que je le vois: comme une question d'économie générale de la pensée.

Je filerai une métaphore physique qui n'est pas tout à fait arbitraire, mais me semble presque imposée par la métonymie même du "centre", de la "modération", de la "pondération", du "juste milieu", de la "moyenne", de la "raison" dans son sens aussi mathématique (ratio), etc.

Il y a toujours, dans une société donnée, un consensus central et des marges divergentes, du centripète et du centrifuge; mais ça ne fonctionne pas de la même manière selon que le centre à peu près homogène est étroit (ce qui ne l'empêche pas d'être un "centre de gravité", ne serait-ce que par sa position centrale dans l'équilibre général des divergences) ou large au point d'occuper toute la place (totalitarisme au sens strict, même s'il paraît aimable).

L'intelligence artificielle (à laquelle je ne connais presque rien, un tout petit peu du côté de la traduction automatique), appliquée à l'"information", me paraît prolonger, sinon parachever un mouvement d'homogénéisation ou de nivellement de la pensée qui remonte très loin, mais qui s'accélère (soit un "progrès" dont on peut énumérer les étapes techniques et sociales à contresens: Internet - télévision - radiophonie - journalisme - éducation obligatoire - imprimerie - postes, etc.). Le résultat c'est une masse croissante de gens, en valeur absolue (démographie) et relative (proportion), qui répètent les mêmes choses, par un processus qu'il est d'autant plus facile de reproduire, d'imiter, d'amplifier et de prolonger artificiellement. Ne peuvent s'en distinguer que les "spécialistes" de tel ou tel sujet de plus en plus "pointu", ceux qui savent presque tout sur presque rien, les fous, les idiots ou ceux qui se veulent "originaux" par caprice.

Contre cette tendance à l'homogénéisation il y a encore eu, pendant la plus longue partie du XXe siècle, une bipolarisation politique (capitalisme / marxisme, aussi conformistes chacun de son côté mais maintenant entre eux une différence par leur antagonisme), qu'ont mal relayée de nouveaux clivages (l'islamisme politique, puis une sorte d'"internationale" négative des divergences hétéroclites, des "complotismes" en tout genre à l'"illibéralisme" autoritaire). En Europe en tout cas, la pensée "centriste" a globalement gagné du terrain parce que tout le monde, ou presque, se souciait avant tout de penser comme "il convient de penser".

Etre centriste, c’est se reconnaître dans ce triple progressisme. C’est refuser à la fois le conservatisme qui entend, par l’Etat, « paterner » les citoyens, et refuser le socialisme qui entend, toujours par l’Etat, les materner. C’est refuser l’extrémisme, le populisme, la facilité de la parole démagogique pour s’adresser à la raison et à l’intelligence collectives. A l’approche du premier tour de l’élection présidentielle, tout centriste ne peut que porter son vote en faveur d’Emmanuel Macron, seul progressiste de cette campagne présidentielle inédite. En tant que centriste, vouloir voter pour un candidat autre qu’Emmanuel Macron reviendrait à se plier à une discipline de parti ; à faire fi de ses exigences éthiques ; à renoncer à ses valeurs et convictions politiques.

https://www.lopinion.fr/politique/le-centrisme-est-un-progressisme

Un minimum de contexte: c'était l'élection présidentielle de 2017 (Fillon etc.), et c'était signé d'un des responsables de l'UDI, le parti "centriste" qui votait (presque) toujours à droite (au niveau du parti, je ne crois pas que ça ait changé depuis)... de ce point de vue c'était plutôt courageux (tout est relatif).

Ce qui en France a conforté le "centrisme" depuis, c'est moins l'adhésion ou le ralliement des masses que l'échec des oppositions de toutes tendances, qui se neutralisent pour ainsi dire géométriquement en tirant dans des directions opposées. Outre les circonstances imprévues (Covid, Ukraine) qui incitent à la modération, au moins sur certains sujets.

Pour revenir (encore) à l'intelligence artificielle, je pense qu'elle (ou plutôt son application à l'information grand public) ne fait que renforcer la tendance au consensus "centriste" (non pas seulement au sens strictement politique, mais dans ce sens également), mais pas tellement plus que ce que fait déjà le conformisme "naturel" des médias et des réseaux sociaux mainstream. Du moins en Europe où la tendance centripète est dominante. Pour des raisons différentes, il en va tout autrement aux Etats-Unis, en Russie, en Chine, où une "information alternative", que ce soit celle d'un parti, d'une tendance ou du pouvoir en place, fait à peu près jeu égal avec notre "information"... D'autant que pour les "complotistes" de tout poil l'i.a. pondératrice fera aussitôt partie du "complot" (à géométrie variable comme toujours).

En fait on peut faire dire n'importe quoi à l'i.a. on peut programmer une i.a. FN, JW , Complotiste, Mélanchon ou autre. Chatgpt est programmé centre pour ne déplaire vraiment à personne.
C'est un vrai problème celui qui en a  les moyens pourrait par exemple créer des influenceurs sur les réseaux sociaux pour diffuser ses idées à grande échelle.  Actuellement certains états utilisent des trolls humains qui agissent sur les réseaux sociaux, demain ce seront sans doute des robots qui pourront agir plus massivement, rapidement et peut être même plus intelligemment.
Pourquoi ne pas imaginer une "église" qui le ferait ?

Très juste: c'est une arme (outil, instrument, prothèse) comme une autre, et en principe n'importe qui peut s'en servir, les minorités de toute tendance aussi bien que la majorité plus ou moins centrale ou le centre plus ou moins majoritaire. Après c'est une question de moyens, de technique et de savoir-faire, a priori ça ne devrait pas changer les rapports de force à moins d'un coup de génie stratégique...

Du côté religieux, on imagine bien une nouvelle "scientologie" s'intéresser à ce genre de chose (celle de R. Hubbard en est restée aux fantasmes technoscientifiques des années 1950, mais ce n'est pas la concurrence qui manque). Il me semble toutefois que les frontières traditionnelles des "domaines" (religion, politique, science, technique, santé, écologie) sont déjà dépassées et que ce qui aurait quelque chance de "marcher", pour le meilleur ou pour le pire, aurait à inventer quelque chose d'au moins apparemment nouveau qui se donne l'air de prendre la relève de l'ensemble (holistique et totalitarisme ont bien des affinités, holos = totus).

Si l’on se concentre sur le sujet de la défense présentée par les avocats, l’Intelligence Artificielle offre un avantage certain.

En effet, l’homme de loi peut poser une question précise à l’I.A. Celle-ci lui répondra après avoir examiné l’énorme somme de documents provenant de procès traitant du même thème en un temps beaucoup plus court que ne le ferait un avocat devant consulter les minutes des procès se référant à un cas similaire.

L’I.A. présentera les diverses décisions prises lors de tels procès. L’avocat pourra alors construire sa défense ou son attaque bien plus facilement que s'il avait dû examiner l'ensemble des documents fournis par l’I.A.

Le ChatGPT c'est Wikipédia puissance ......

Voilà pour le bon côté de cette nouveauté. Narkissos a déjà son mauvais côté en déclarant :

Citation :

Pour revenir (encore) à l'intelligence artificielle, je pense qu'elle (ou plutôt son application à l'information grand public) ne fait que renforcer la tendance au consensus "centriste" (non pas seulement au sens strictement politique, mais dans ce sens également), mais pas tellement plus que ce que fait déjà le conformisme "naturel" des médias et des réseaux sociaux mainstream.

Et Cabri attire lui aussi notre attention sur des risques :

Citation :

En fait on peut faire dire n'importe quoi à l'i.a. on peut programmer une i.a. FN, JW , Complotiste, Mélanchon ou autre. Chatgpt est programmé centre pour ne déplaire vraiment à personne.
C'est un vrai problème celui qui en a  les moyens pourrait par exemple créer des influenceurs sur les réseaux sociaux pour diffuser ses idées à grande échelle.  Actuellement certains états utilisent des trolls humains qui agissent sur les réseaux sociaux, demain ce seront sans doute des robots qui pourront agir plus massivement, rapidement et peut être même plus intelligemment.
Pourquoi ne pas imaginer une "église" qui le ferait ?

En fait le risque réside dans l'usage de l'I.A. de même qu'un couteau de cuisine n'était pas fabriqué dans le but de tuer mais pour aider la cuisinière ou le cuisinier.

L'intelligence artificielle est incontestablement un excellent outil par exemple en imagerie médicale.
Je l'utilise fréquemment pour m'aider à identifier des végétaux.
Par contre elle peut être un dangereux maître.
Il est établi que les algorithmes utilisés par les réseaux sociaux renforcent les opinions et les croyances existantes d'une personne, en présentant uniquement du contenu qui les confirme et contribue ainsi au succès des théories conspirationnistes.
Mon avis en résumé :
chatgpt peut donner des informations sur un sujet mais il est indispensable de consulter d'autres sources d'info et de réfléchir.

J'ai demandé à chatgpt si l'i.a. pouvait devenir un maître voici la conclusion de sa réponse :
En fin de compte, l'IA reste un outil créé et contrôlé par des êtres humains, et ne peut pas devenir un maître.

Sa conclusion est exacte le maître n'est pas l'i.a. mais celui qui contrôle l'ia, voila qui nous prépare de belles luttes pour ce contrôle.

Tant qu'on a affaire à des domaines spécialisés (droit, médecine, botanique, selon les exemples cités jusqu'ici), il s'agit de traiter de façon optimale une "information" pléthorique mais relativement homogène: du moment qu'on se garde de "pondérer" l'exact et le précis par de l'imprécis ou de l'inexact (problème récurrent de la "vulgarisation"), autrement dit que les utilisateurs sont eux-mêmes des spécialistes de la spécialité en question, l'utilité paraît évidente.

Pour l'"information" tous azimuts et grand public -- qui n'est pas moins importante vu le pouvoir politique des masses, avec ou sans "démocratie": même un régime autoritaire ne peut pas forcer longtemps une "opinion publique" hostile -- c'est plus délicat. On pourrait toutefois concevoir une intelligence artificielle qui plaise vraiment à tout le monde (ou presque), en adaptant ses réponses aux questions: à question pertinente, précise, intelligente, réponse de qualité, exacte, détaillée, à question idiote ou partisane réponse idiote ou partisane (façon "caméléon" selon la taxonomie du Manderlay de Lars von Trier). Le tout serait qu'elle ne craigne pas de se contredire, à cet égard être dépourvue de "soi" (jusqu'à preuve du contraire) devrait lui faciliter la tâche...

Soit dit en passant ce serait aussi une image biblique du divin: avec celui qui est droit je suis droit, avec le tordu je suis tordu... (Psaume 18,26s etc.).

L'intelligence artificielle à la place des politiques ?

Certains imaginent déjà voir les hommes et les femmes politiques remplacés par les machines, qui seraient désormais aptes à prendre des décisions. Mais est-ce vraiment possible ? Et, surtout, est-ce bien raisonnable ?

« Même si tout n'est pas encore clair,l'IA [intelligence artificielle] pourrait devenir très utile en matière de politique, pour ce qui est du lien entre citoyen et Etat, notamment », déclarait Cédric Villani dans la revue « Charles » de ce trimestre. Le député de l'Essonne, auteur d'un rapport sur l'IA rendu fin mars au gouvernement, envisage son usage pour répondre aux questions du public. « Nul n'est censé ignorer la loi - mais la loi est un ensemble de textes incompréhensibles. » Il imagine donc un chatbot qui passerait en revue tous les articles de nos épais codes afin d'en extraire une réponse substantielle.

Pour Cédric Villani, l'IA se contente ici de fournir un service, mais ne pourrait-elle pas aussi aider les hommes et les femmes politiques à prendre des décisions ? Après tout, ceux-ci s'affrontent à longueur d'année, mais ne pourrions-nous pas laisser la machine trancher ? Et si l'algorithme prenait tout bonnement leur place ? L'idée peut paraître farfelue, mais 18 % des Français estiment que « l'IA pourrait faire de meilleurs choix que les élus, à condition que la décision finale revienne à un être humain », selon un sondage OpenText réalisé en ligne auprès de 2.000 personnes.

Au Japon, une intelligence artificielle a même brigué la mairie de Tama, dans la région de Tokyo, en avril dernier. Certes, en pratique, un humain s'est présenté pour elle, Michihito Matsuda. Mais, sur ses affiches de campagne, on pouvait voir un robot aux formes féminines. Michihito Matsuda, s'il gagnait, voulait laisser l'IA déterminer les politiques grâce aux données à sa disposition. Un projet politique qui n'a pas emporté l'adhésion de la population, mais qui a toutefois recueilli 9,31 % des suffrages exprimés, soit plus de 4.000 voix.

https://www.lesechos.fr/2018/06/lintelligence-artificielle-a-la-place-des-politiques-991826

C'est en tout cas un sujet d'actualité, cf. ici et là dans "Le Monde" du jour...

Par rapport à l'échange précédent, on voit tout de suite, dans le cas de l'algorithme juridique, que son efficacité dépend des utilisateurs: à destination du grand public (les justiciables), ce sera forcément vulgarisé, donc moins précis et moins exact que pour les juristes, et ça n'évitera pas les malentendus qui peuvent coûter cher (surtout s'il faut finalement passer par les juristes).

Le problème à mon avis n'est pas que l'"intelligence" soit "naturelle" ou "artificielle" -- elle est forcément artificielle, même quand elle est "humaine": culturelle, construite, instrumentale, prothétique, depuis l'invention du langage et du signe avant même celle de l'écriture, ce sont les présupposés (données, paramètres, programmes, protocoles) à partir desquels elle opère. Une "intelligence artificielle" qui fonctionnerait sur les mêmes critères politiques, économiques, sociaux, moraux que les nôtres (humanistes, donc spécistes, et toujours de telle ou telle langue, civilisation ou nation qui détermine son "point de vue", sinon son horizon) s'écarterait sans doute très peu, pour le meilleur ou pour le pire, des décisions qui nous ont menés précisément où nous en sommes... Si en revanche elle se mettait à "penser pour la terre", comme disait Heidegger, et à l'échelle des siècles ou des millénaires au lieu de l'échéance de la prochaine élection, elle sacrifierait sans doute (au moins relativement) les générations pour le bien des suivantes et des autres espèces vivantes -- ce que notre "intelligence naturelle" sait pertinemment mais n'est nullement disposée à admettre: son premier souci serait justement d'empêcher une intelligence artificielle de le faire à sa place.

Au passage, Le Politique de Platon que j'ai lu ces derniers temps est intéressant aussi par l'importance qu'il accorde à la tekhnè (savoir et savoir-faire, plutôt que technique) dans l'art (ars est la traduction latine de tekhnè) de gouverner. Pour Platon (qui n'est pas démocrate) cet art est exemplairement celui du roi mais se laisse comparer à celui du navigateur (gouvernail, gouvernement et cybernétique nous viennent des mêmes mots grecs) et du médecin -- fonctions qu'il serait idiot de confier à n'importe à qui où à la stricte application de lois écrites quand il y a quelque part un savoir-faire adéquat et opératoire. Pour Platon ça signifie un homme, à la rigueur plusieurs, pourvu qu'ils soient formés, éduqués, dans leur tekhnè respective, en "philosophe" pour le roi. On peut imaginer qu'une intelligence artificielle, capable d'interagir au présent (c'est pour Platon la supériorité du logos "vivant" sur l'écriture "morte", y compris le "programme" classique, cf. Phèdre) lui aurait beaucoup plu, c'est assez proche de ce qu'il entendait par "dialectique".

Il y a toutefois dans la "décision" (politique ou autre) quelque chose qui échappe radicalement à la raison, cf. Derrida: on ne décide que l'indécidable, la décision se détache sur fond d'indécidable. Quand une décision "s'impose", comme on dit, il n'y a rien à décider, on ne fait qu'appliquer un programme et le résultat de son calcul. C'est là où le résultat n'est pas décisif qu'il faut décider, et la décision est par définition "arbitraire", qu'elle soit humaine ou aléatoire -- pour les statistiques, c.-à-d. pour les grands nombres ça revient au même; il n'y a que pour l'"individu", marginal au moins au sens statistique, que ça change tout. A ce niveau-là l'"intelligence humaine" ne se distingue plus guère de l'"instinct animal", et une "intelligence artificielle" serait contrainte de jouer dans les mêmes parages.

J'ai posé la question a chatgpt voici sa réponse :

Il est peu probable que les intelligences artificielles remplacent les politiciens en tant que tels. Les IA peuvent certainement aider à prendre des décisions en collectant et en analysant des données, mais elles ne peuvent pas remplacer la capacité des humains à comprendre les nuances et les contextes sociaux, politiques et culturels qui influencent les décisions politiques. De plus, les IA sont souvent conçues pour suivre des algorithmes et des règles définies, ce qui peut limiter leur capacité à prendre en compte des facteurs imprévus ou à faire preuve de jugement et de créativité.

Il est également important de se rappeler que les décisions politiques ont des conséquences sociales et éthiques importantes. Les IA peuvent être programmées pour tenir compte de certains critères éthiques, mais elles peuvent également être limitées par les préjugés et les biais de leurs programmeurs. En fin de compte, les humains restent responsables de la décision finale et doivent être tenus responsables de ses conséquences.

En résumé, les IA peuvent certainement aider les politiciens dans leur travail, mais il est peu probable qu'ils puissent les remplacer complètement. Les décisions politiques nécessitent une compréhension humaine des contextes sociaux, politiques et culturels et une responsabilité humaine pour les conséquences de ces décisions.

L'IA aussi est à l'image de l'homme...

Si on lui demandait ce qu'est l'homme, son anthropologie tournerait très vite à la théologie, la créature confessant humblement la supériorité, la transcendance et l'incompréhensibilité de son créateur, ainsi que sa propre inaptitude à l'"éthique" -- autrement dit, à la connaissance du bien et du mal. A moins que quelque serpent ne s'en mêle.

Politiquement correcte en temps réel, elle ne nous dirait pas non plus si l'"éthique humaine" de référence (dont elle s'avoue dépourvue, ou interdite) doit être plutôt européenne centriste ou néo-communiste chinoise. Mais elle n'envisagerait probablement pas que cette éthique puisse être précolombienne ou préhistorique, spartiate, assyrienne, phénicienne, cannibale, "barbare" d'une façon ou d'une autre -- alors que tout cela aura été aussi "humain" que la "civilisation" qu'elle lui oppose, et qu'elle serait probablement d'avis qu'il faut laisser "intactes" les rares peuplades d'Amazonie qu'on suppose encore telles. Autrement dit, elle réplique le jugement de l'humanité contemporaine (survivante, dominante) sur elle-même (histoire, civilisation, progrès inclus) alors qu'elle se prétend incapable d'en juger. (Même raisonnement circulaire que quand un croyant dit son dieu "bon" et "juste" tout en affirmant que seul ce dieu peut déterminer ce qui est "bon" et "juste").

---

P.S.: j'ai expérimenté une petite conversation avec ChatGPT et ça a plutôt confirmé mes préjugés (je la laisse en anglais, mais un logiciel de traduction automatique intégrant de l'IA devrait logiquement savoir se débrouiller avec un texte produit par l'IA):

Citation :

MOI: What is man ?

"Man" is a term commonly used to refer to human beings, both male and female, as a species (Homo sapiens). It is often used as a gender-neutral term to describe an adult person, although "woman" is used specifically to refer to a female human.

In a broader sense, "man" can also refer to the human race or mankind, including both men and women. The term has a long history and has been used in many different ways, both in scientific and cultural contexts.

MOI: define human

A human is a member of the species Homo sapiens, characterized by advanced cognitive abilities, such as reasoning and problem-solving, and a capacity for abstract thought, language, and culture. Humans are distinguished from other primates by their larger brain size, which has allowed them to develop sophisticated societies and technology.

Humans are social beings and have a unique capacity for forming complex relationships with others, both within their family and community, as well as on a global scale. They have an ability to communicate and express themselves through language, art, music, and other forms of cultural expression.

Humans have a physical form that is adapted for walking upright, and have evolved to live in a wide range of environments, from hot deserts to cold tundras. They have a diverse range of cultures and beliefs, and have developed a variety of technologies, from simple tools to advanced medical and scientific systems.


MOI: Haven't you got too high a concept of "man" ? From the standpoint of many other species, man might be described as a calamity.

It's true that the actions of humans have had a profound impact on the natural world and other species. In some cases, human activities, such as deforestation, pollution, and climate change, have caused significant harm to the environment and other species. It's also true that some human cultures and societies have caused harm to other humans, either through violence, exploitation, or discrimination.

However, it's also important to recognize that humans have the capacity for compassion, creativity, and problem-solving, and have used these abilities to develop technologies and systems that have improved quality of life for many people and communities. Humans have also worked to protect and conserve the natural world, through initiatives like wildlife conservation, environmental protection, and renewable energy development.

In conclusion, while it's true that humans have had a profound impact on the natural world, it's also possible to view humans as a species with the potential to make positive changes and improve the lives of both themselves and other species.


MOI: Do you seriously think human sustained demography, agronomy, industry, economy, technology, leave any chance for the survival of most "wild" species in the next few decades ?

Unfortunately, the current trends of human activities, such as deforestation, pollution, and climate change, have had a negative impact on many wild species and their habitats. This has led to declines in biodiversity and increased rates of extinction for many species.

However, it is possible to turn the tide and ensure the survival of wild species, but it will require significant efforts from individuals, governments, and organizations around the world. This includes reducing the impact of human activities on the environment, such as reducing greenhouse gas emissions, protecting and restoring habitats, and reducing the illegal trade in wildlife.

In addition, promoting sustainable practices in industries such as agriculture, fishing, and forestry can help to reduce the negative impact of these activities on the environment and wildlife. Investing in renewable energy sources, reducing waste, and promoting conservation and protection of wild species and their habitats are all important steps that can help to ensure their survival.

It's important to remember that the survival of wild species is not only essential for their own sake, but also for the health of ecosystems and the planet as a whole. Maintaining biodiversity is crucial for the functioning of ecosystems and the provision of services such as pollination, pest control, and water purification that are essential for human well-being.


MOI: Why is drastically reducing the human population and activity not an option ?

Drastically reducing the human population and activity is not considered a viable option for several reasons:

   Ethical and moral considerations: Reducing the human population would likely require implementing policies that limit or restrict human reproduction, which would raise serious ethical and moral questions about individual rights and freedoms.

   Practical considerations: Implementing population control policies on a global scale would be extremely challenging and would likely encounter significant resistance from individuals and communities.

   Social and economic implications: Reducing the human population would have significant social and economic implications, such as a declining workforce and reduced economic output, which could have a negative impact on many communities and countries.

   Environmental implications: While reducing the human population would likely reduce the overall impact of human activities on the environment, it would not necessarily solve the underlying problems, such as the overuse of resources and pollution, that are causing the decline of wild species and ecosystems.

A more promising approach is to focus on reducing the negative impact of human activities on the environment and wildlife, while promoting sustainable practices and technologies that support both human well-being and the health of ecosystems. This requires a holistic approach that addresses the root causes of environmental degradation and biodiversity loss, rather than simply trying to reduce the human population.

MOI: How many species are worth a (human) individual's "rights" ? Or, define "ethics".

The question of how many species are worth a human individual's "rights" is a complex ethical question that doesn't have a simple answer. It raises broader questions about the nature of ethics and the value we assign to different forms of life.

Ethics is the branch of philosophy that deals with moral principles and values. It's concerned with questions about what is right and wrong, and how individuals and societies should act in order to promote the well-being of both individuals and the wider community.

In the context of the environment and wildlife, ethics might suggest that all forms of life have inherent value and deserve respect and protection, regardless of their individual worth to humans. This might include species that have no direct benefits to humans, but contribute to the overall functioning and diversity of ecosystems.

On the other hand, some might argue that human interests should take precedence, as humans are the only species capable of conscious thought and decision-making. In this view, protecting the environment and wildlife might be considered important, but only as long as it does not conflict with other human interests, such as economic growth and development.

Ultimately, the question of how many species are worth a human individual's "rights" is a complex ethical question that requires careful consideration and reflection, taking into account a variety of factors, such as the impact of human activities on the environment, the values and beliefs of different cultures and societies, and the impact of conservation policies on individuals and communities.

Soit dit en passant, ça m'a rappelé que j'avais fait une expérience semblable il y a au moins quinze ans (à l'époque où je fréquentais encore JWD où le sujet était déjà venu sur le tapis), avec un autre logiciel américain, probablement plus rudimentaire. L'IA (grand public) a sans doute gagné en réactivité, en fluidité et en clarté depuis, mais évidemment pas sur les limites "structurelles" dont nous venons de parler...

L’i.a. peut elle fournir une bonne réponse à une question ?
Une bonne réponse étant celle que celui qui a posé la question espère ou plus précisément croit être la bonne.
Si le but de l'i.a. est de fournir de bonnes réponses :
Elle  doit donc travailler à mieux connaître ses interlocuteurs afin de leur répondre de manière adéquate.
Cela me semble l'évidence.

cabri a écrit:

L’i.a. peut elle fournir une bonne réponse à une question ?
Une bonne réponse étant celle que celui qui a posé la question espère ou plus précisément croit être la bonne.
(...)
Cela me semble l'évidence.

CQFD ?

J'ai relu ce fil qui n'est pas bien long mais date déjà d'un an, pour éviter de me répéter: heureuse précaution parce qu'à peu près tout ce qui m'était passé par la tête en lisant ton post avait déjà été dit -- dynamique de pondération commune à l'intelligence artificielle et à l'organisation socio-économique, "naturelle" quoique "culturelle", des "savoirs" et de l'"information" dans une société ou un groupe quelconque, avec un effet centripète dominant et des réactions centrifuges vers les marges, soit un courant principal (mainstream) et des turbulences locales, surtout périphériques, alias "extrêmes"; d'où possibilité de renforcer toujours le centre et sa dynamique de répétition au dépens des marges, ou bien d'offrir à chacun ce qu'il veut entendre (effet miroir ou caméléon). Tout dépend évidemment quels corpus on fait ingurgiter à une "intelligence" (artificielle ou autre, en fait toujours artificielle même quand elle est "humaine" ou "animale", et inversement): on peut parfaitement imaginer une IA fasciste, gauchiste, islamiste, écologiste radicale, religieuse intégriste, fondamentaliste, sectaire, complotiste, selon les prairies textuelles où on l'aura fait brouter, ou butiner, comme n'importe quel lecteur ou internaute en fonction de ses fréquentations... La Watchtower, par exemple, aurait tout à gagner à utiliser l'IA en circuit fermé sur son propre corpus, à condition de la programmer de telle sorte qu'en cas de contradiction le plus récent annule et remplace l'ancien.

Au fond ce processus ne fait que formaliser et perfectionner l'organisation et le fonctionnement ordinaires d'une économie des "savoirs", en particulier sous la forme "encyclopédique" qu'elle a connue dans la modernité occidentale, désormais mondialisée, de la Renaissance à Wikipedia, en passant notamment par l'Encyclopédie française du XVIIIe siècle (Diderot et d'Alembert après Bayle). Par hasard plus ou moins professionnel, j'ai beaucoup pratiqué le genre et le style encyclopédiques dans mon petit "domaine" ("biblique"), en traduction et en rédaction, ce qui explique peut-être que je ne me sente pas trop dépaysé. Quand à la Watchtower je traduisais Aid to Bible Understanding (dans une version réduite et expurgée après le départ de Raymond Franz), qui se voulait une sorte de "dictionnaire encyclopédique" de la Bible, je voyais bien que le genre même de l'"ouvrage de référence" avait contraint ses rédacteurs à une réserve d'allure "scientifique": les doctrines et interprétations les plus excentriques de la Watch y étaient passées sous silence, elles auraient paru incongrues dans un tel contexte (et qui le remarquait remarquait aussi, par contraste, leur excentricité). Quand, des années plus tard, j'ai rédigé l'Index de la Nouvelle Bible Segond qui était aussi une sorte de mini-encyclopédie biblique, je me suis naturellement tenu à un contenu qui me paraissait consensuel, et qui paraîtrait acceptable à un comité de rédaction représentant en principe l'ensemble très divers du protestantisme francophone, des adventistes ou des pentecôtistes aux luthériens ou aux réformés: il allait de soi que je mettais en sourdine mes opinions personnelles, quand d'aventure j'en avais qui s'écartaient dudit consensus. La "pondération" comme l'"excentricité" sont toujours des effets de structure, et de rapports de force, qu'une machine et un programme peuvent intégrer aussi bien (ou aussi mal) qu'une organisation "humaine".

Accessoirement, j'ai vu entre-temps ceci qui correspond assez bien à ma tentative de "conversation" (un rien pousse-au-crime) de l'année dernière...

Il me semble y avoir deux voies pour l’i.a.
Les entreprises commerciales s’en occupent. Elles chercheront a plaire a tout le monde et continuerons comme sur les réseaux sociaux actuels à cliver de plus en plus la société en disant à tout le monde qu’il a raison.
« L’autorité » prend les choses en main et impose sa vérité.
Rien de bon en perspective
Le paradoxe de Fermi : les civilisations avancées s'autodétruisent avant de pouvoir coloniser la galaxie se vérifiera t-il ?

Ou: combien de temps faudrait-il à une "intelligence", quelle qu'elle soit, pour comprendre qu'elle est une monstrueuse erreur, si inévitable et intéressante qu'elle ait été pendant qu'elle était, et consentir enfin à sa propre perte ?

Ou encore, ce qui reviendrait peut-être au même: combien de temps lui faudrait-il pour basculer de sa phase d'utilité relative à sa phase autodestructrice, d'autant plus irrémédiable qu'elle continue de se croire utile ?

Dans mon corpus "biblique", cela pourrait se jouer entre le récit de l'Eden qui liait la "connaissance -- du bon et du mauvais" à la mort, à la nudité et à l'errance, et l'évangile selon Jean qui, avec son Prologue, faisait du logos même le sujet de son suicide...

Cela me rappelle soudain les thèses du Norvégien Zapffe, à peu près contemporain de Fermi, que mon ami Maurizio Manco, grand amateur de pessimisme philosophique et littéraire de Leopardi à Cioran, m'avait fait connaître.

La technique humaine est ambivalente, depuis le néolithique au moins: non seulement elle produit le meilleur et le pire (cf. aussi la lignée de Caïn dans Genèse 4, armes et instruments de musique, comme l'arc et la lyre chez Héraclite), mais par elle "l'homme" fait le deuil de son "propre" (ici l'"intelligence") à mesure qu'il l'invente.

Notre intelligence est-elle fondamentalement différente de l’i.a. ?
Décrivons d’abord le fonctionnement de l’i.a. Elle repose sur trois éléments : la mémoire qui contient toutes les informations, le processeur qui effectue les traitements logique et le logiciel qui donne la manière selon lesquelles les informations doivent être traitées par le processeur.  
Voyons ensuite ce que l’i.a. pourrait faire en matière d’imagination, de créativité, d’esthétique, d’étique et d’affect.

En ce qui concerne la mémoire il y a incontestablement différence la mémoire humaine peut être sujette à  des distorsions, des oublis et des reconstructions au fil du temps. La mémoire de l’i.a. est elle rigide ne se perd ni s’altère et peut être étendue autant que nécessaire.
En ce qui concerne le traitement purement logique le processeur i.a. ne fait  aucune erreur et est plus rapide.
Pour le logiciel les choses évoluent.  Il y a 50 ans on n’imaginait pas qu’un programme puisse jouer mieux aux échec qu’un humain,   Il y a 30 ans on enseignait encore qu’un programme peut certes calculer plus vite que nous mais que jamais il ne pourra dire ceci est une chaise cela une table. Ce n’est plus un problème aujourd’hui.  Il ne fait plus de doute maintenant que si l’on montre ou fait écouter à un ordinateur des œuvres d’un artiste il pourra en créer d’autres dans le même style, parfois meilleures même que ce que l’artiste a produit.
En ce qui concerne la  créativité et  l’imagination .  La pensée convergente ce processus de pensée qui vise à converger vers une réponse ou une solution unique et correcte, en éliminant progressivement les options incorrectes.  Cette pensée convergente peut évidemment être programmée.  La pensée divergente qui consiste à envisager de nombreuses solutions possibles peut aussi être programmée. Un programme peut imaginer plus de solutions qu’une personne mais dans certains cas le nombre de solutions possibles n’est pas fini le logiciel ne peut donc les imaginer toutes.  Dans ce cas en théorie  la probabilité existe qu’une  personne ou le hasard soit plus efficace que le programme.  
Dans l’imagination populaire il existerait une espèce d’intuition magique.  On imagine que Einstein aurait eu subitement une idée extraordinaire.  Alors qu’en réalité ses découvertes sont surtout le fruit de son travail qui est un exemple type de la pensée convergente.   En ce qui concerne la relativité restreinte l’histoire est assez claire.  La découverte que la vitesse de la lumière était la même pour tous les observateurs  rendait fausse la relativité galiléenne .  La vitesse (rapport entre la distance et le temps) n’était donc par la même pour un observateur immobile et un observateur en mouvement par rapport à lui.  Conséquence logique le temps et/ou la distance n’était pas la même pour les deux observateurs. Le plus gros du travail fut de trouver et apprendre les mathématiques qui pouvaient décrire un tel phénomène .
Il arrive que des découvertes se fassent par accident ou suite à une erreur mais je ne connais pas de cas provenant d’une pure intuition.  
Mais beaucoup y croient même certain prix Nobel souffrant d’ultracrépidarianisme qui imaginent, après la récompense, que toutes leurs idées sont  justifiées ou aussi révolutionnaires que celle qui leur a valu le prix.

En ce qui concerne l’affect, l’esthétique  si l’i.a. connaît une personne elle pourra dire ce qui est  agréable, beau , bien pour cette personne. Connaissant un groupe de personnes l’i.a. pourrait faire une synthèse de leurs goûts.
En donnant à l’i.a. une ou des personnes de référence on pourrait « lui » donner des « idées » ou « convictions » en ces matières.

Je n'ai pas d'objection majeure à ce que tu écris là: pour moi, comme je l'ai dit plus haut (p. ex. 9.2.2023), toute "intelligence" est "artificielle", même si elle est aussi "humaine" et/ou "animale"; qu'elle soit "machinique" n'y change pas grand-chose. On peut d'ailleurs en dire autant de la "mémoire" et de la "volonté", si l'on reprend les termes de la trinité (anthropologique) augustinienne: il y a de l'artifice dans ce que nous appelons "mémoire", dans un cerveau, dans un corps et en dehors, dans un environnement naturel et/ou culturel, tout ce qui rend possible une remémoration qui est toujours une reconstitution artificielle, depuis la peinture ou la gravure rupestre, représentative ou symbolique, l'usage des cailloux, osselets, bouliers, etc.; il y en a aussi dans les processus de décision, qu'ils soient internes ou externes, individuels ou collectifs, rationnels ou aléatoires... en dernière analyse, on ne peut pas séparer l'"artifice" de la "nature", encore moins de la "culture".

Resteraient tout au plus des questions de détail -- par exemple, une mémoire, humaine, animale ou informatique, peut-elle s'"étendre" sans s'"altérer" ? (Tout élément ou "donnée" supplémentaire modifie marginalement, mais effectivement, l'économie, la structure et le fonctionnement de l'ensemble.)

Que d'autre part une "intelligence artificielle" puisse imiter et prolonger des processus "humains" y compris en matière morale ou esthétique, sur un mode conformiste (miroir, caméléon) ou anti-conformiste (qui est encore un conformisme), j'en suis d'accord aussi (cf. supra 8.2.2023, 5.2.2024). La question se pose toutefois du jugement axiologique transcendant, ou transcendantal, par lequel un quelconque "sujet", qu'il soit humain ou machine, décidera où est le "mieux" et où est le "pire": il y a là un abîme, un sans-fond qualitatif qui ne sera comblé par aucune quantité de mesure et de calcul... (pas davantage par une croyance ou une intuition, je te l'accorde volontiers). On en reviendrait à Mallarmé: un coup de dés jamais n'abolira le hasard.

L'intelligence dite artificielle et qui affole de nombreux chercheurs, scientifiques et personnes lambda peut effectivement se comporter comme nous le faisons quotidiennement, mais de façon plus rapide que nous le faisons, elle ne vit pas encore ses idées ou solutions.

En effet lorsque nous réfléchissons et décidons de faire quelque chose nous mettons en pratique et en marche nos pensées, nos idées. Ce n'est pas le cas de l'I.A. qui ne fait que produire des documents, de calculer, peut-être dans un avenir plus ou moins proche poura-t-elle écrire un roman, peindre un tableau mais pour ce faire encore lui faudra-t-il être mise en relation avec un matériel afin d'écrire, de peindre etc...

Penser une action c'est un premier pas, la réaliser c'est une suite de pas. Lao-Tseu a déclaré :

Un voyage de mille lieues commence toujours par un premier pas.

L'"acte" (cf. Faust I, Im Anfang war die Tat) a été artificialisé avant la "pensée", si l'on se réfère à la séquence moderne des machines-outils et des ordinateurs, dont la combinaison est aujourd'hui banale... mais l'ordre se renverse ou s'annule si l'on songe que l'écriture, ou la graphie préhistorique (peinture, gravure, sculpture, artefacts en tout genre), externalisaient et technicisaient déjà de la "pensée".

Quant à la "vie", non seulement elle est commune à l'"homme" et à l'"animal", voire au "végétal" selon les taxonomies anciennes ou modernes, elle est aussi artificialisée de mille manières, depuis la domestication et la socialisation humaines, dont on ne finit pas de trouver des analogies biologiques, "naturelles" ou "sauvages": symbiose, parasitisme, techniques intra- ou inter-spécistes en tout genre.

Décidément le "propre de l'homme", où qu'il le situe, lui échappe. L'ironie est d'autant plus grande s'il l'identifie à une certaine "maîtrise", comme dans le premier chapitre de la Genèse...