« L’ordre social pourrait s’effondrer » à l’ère de l’IA, selon deux grandes entreprises japonaises

La plus grande entreprise de télécommunications du Japon et le plus grand journal du pays ont appelé à une législation rapide pour restreindre l’intelligence artificielle générative, affirmant que la démocratie et l’ordre social pourraient s’effondrer si l’IA n’est pas contrôlée. Le manifeste des entreprises japonaises, tout en soulignant les avantages potentiels de l’IA générative pour améliorer la productivité, adopte une vision généralement sceptique à l’égard de cette technologie. Sans donner de détails, il affirme que les outils d’IA ont déjà commencé à porter atteinte à la dignité humaine, car ils sont parfois conçus pour capter l’attention des utilisateurs sans se soucier de la morale ou de l’exactitude. Si l’IA n’est pas maîtrisée, « dans le pire des cas, la démocratie et l’ordre social pourraient s’effondrer, entraînant des guerres », indique le manifeste. Il a déclaré que le Japon devrait prendre des mesures immédiates en réponse, notamment des lois visant à protéger les élections et la sécurité nationale contre les abus de l’IA générative. Une initiative mondiale est en cours pour réglementer l’IA, avec l’Union européenne en première ligne. La nouve…  lle loi de l’UE appelle les fabricants des modèles d’IA les plus puissants à les soumettre à des évaluations de sécurité et à informer les régulateurs des incidents graves. Il devrait également interdire l’utilisation de l’IA de reconnaissance des émotions dans les écoles et sur les lieux de travail. L’administration Biden renforce également la surveillance, invoquant des pouvoirs fédéraux d’urgence en octobre dernier pour obliger les grandes sociétés d’IA à informer le gouvernement lorsqu’elles développent des systèmes qui présentent un risque sérieux pour la sécurité nationale. Les États-Unis, le Royaume-Uni et le Japon ont chacun créé des instituts gouvernementaux sur la sécurité de l’IA pour contribuer à l’élaboration de lignes directrices en matière d’IA. Pourtant, les gouvernements des pays démocratiques ont du mal à trouver un moyen de réglementer la parole basée sur l’IA, comme l’activité sur les réseaux sociaux, compte tenu des protections constitutionnelles et autres de la liberté d’expression. NTT et Yomiuri ont déclaré que leur manifeste était motivé par des préoccupations concernant le discours public. Les deux sociétés comptent parmi les sociétés les plus influentes en matière politique au Japon. Le gouvernement détient toujours environ un tiers de NTT, l’ancien monopole téléphonique contrôlé par l’État. Yomiuri Shimbun, dont le tirage matinal est d’environ six millions d’exemplaires selon les chiffres de l’industrie, est le journal le plus lu du Japon. Sous le défunt Premier ministre Shinzo Abe et ses successeurs, la ligne éditoriale conservatrice du journal a joué un rôle déterminant en poussant le Parti libéral-démocrate au pouvoir à augmenter les dépenses militaires et à approfondir l’alliance du pays avec les États-Unis. Les deux sociétés ont déclaré que leurs dirigeants étudiaient l’impact de l’IA générative depuis l’année dernière dans un groupe d’étude guidé par des chercheurs de l’Université Keio.