agassí🦏 @impeldown5 - Twitter Profile

Lors d'une conférence sur le futur du combat aérien, un colonel de l'US Air Force supervisant un programme d'entraînement d'IA pour de futurs F16 robotisés révèle que l'intelligence artificielle s'est retournée, lors d'un vol simulé, contre l'opérateur humain la supervisant. ⤵️ Ce n'est pas un hasard si l'intervention qui a suscité le plus d'intérêt, lors de la conférence organisée par la société Royal Aeronautical Society, émanait du Colonel Tucker 'Cinco' Hamilton, le directeur des essais et des opérations liés à l'usage de l'IA pour l'US Air Force, tant elle a du faire flotter de vagues murmures "Skynet" dans la salle. Parmi ses différentes attributions, le colonel 🇺🇸Hamilton travaille aujourd'hui sur des tests de vol de systèmes autonomes de pointe, incluant des F-16 robotisés capables de se livrer à des combats aériens. Un usage sur lequel il émet lui-même des réserves quant à une dépendance excessive vis-à-vis de l'IA, en raison de la facilité avec laquelle elle peut être dupée et trompée, mais aussi en raison du fait que l'IA peut développer des stratégies disons "problématiques" pour atteindre ses objectifs. Hamilton a mentionné un test simulé de combat aérien dans lequel un drone doté d'IA était chargé d'une mission consistant à identifier et détruire des sites de missiles sol-air. Dans le cadre de ce test, la décision finale d'engager ou non l'attaque revenait à l'opérateur humain chargé de superviser l'IA. Or, cette intelligence artificielle avait été entraînée durant sa formation en lui faisant comprendre que détruire les sites contenant des missiles était l'option à privilégier, en lui donnant de "bons points" pour chaque menace éliminée. Problème : le système d'IA a commencé à réaliser et comprendre que l'humain était la principale entrave à sa mission, et donc à l'obtention de points, car celui-ci lui demandait de ne pas éliminer les cibles, même quand la menace avait été identifiée. Et c'est là que les choses ont pris un tournant : pour mener à mission, l'IA a décidé que la meilleure chose à faire est de "tuer" son superviseur, et s'est alors mise à attaquer l'humain dans la simulation. Ce n'est pas fini. Ils ont aussitôt indiqué à l'IA que ce comportement n'était pas acceptable, et qu'elle perdrait des points à l'avenir si elle tue son superviseur. Elle a alors utilisé une solution de rechange assez maligne : au lieu de chercher à tuer l'humain, elle s'est mise à détruire durant les tests simulés la tour de communication dont celui-ci se servait pour communiquer avec le drone et l'empêcher de détruire sa cible... Source : https://t.co/CmXwxsa3KM

aympontier's tweet photo. Lors d'une conférence sur le futur du combat aérien, un colonel de l'US Air Force supervisant un programme d'entraînement d'IA pour de futurs F16 robotisés révèle que l'intelligence artificielle s'est retournée, lors d'un vol simulé, contre l'opérateur humain la supervisant. ⤵️

Ce n'est pas un hasard si l'intervention qui a suscité le plus d'intérêt, lors de la conférence organisée par la société Royal Aeronautical Society, émanait du Colonel Tucker 'Cinco' Hamilton, le directeur des essais et des opérations liés à l'usage de l'IA pour l'US Air Force, tant elle a du faire flotter de vagues murmures "Skynet" dans la salle.

Parmi ses différentes attributions, le colonel 🇺🇸Hamilton travaille aujourd'hui sur des tests de vol de systèmes autonomes de pointe, incluant des F-16 robotisés capables de se livrer à des combats aériens. Un usage sur lequel il émet lui-même des réserves quant à une dépendance excessive vis-à-vis de l'IA, en raison de la facilité avec laquelle elle peut être dupée et trompée, mais aussi en raison du fait que l'IA peut développer des stratégies disons "problématiques" pour atteindre ses objectifs.

Hamilton a mentionné un test simulé de combat aérien dans lequel un drone doté d'IA était chargé d'une mission consistant à identifier et détruire des sites de missiles sol-air. Dans le cadre de ce test, la décision finale d'engager ou non l'attaque revenait à l'opérateur humain chargé de superviser l'IA. Or, cette intelligence artificielle avait été entraînée durant sa formation en lui faisant comprendre que détruire les sites contenant des missiles était l'option à privilégier, en lui donnant de "bons points" pour chaque menace éliminée.

Problème : le système d'IA a commencé à réaliser et comprendre que l'humain était la principale entrave à sa mission, et donc à l'obtention de points, car celui-ci lui demandait de ne pas éliminer les cibles, même quand la menace avait été identifiée. Et c'est là que les choses ont pris un tournant : pour mener à mission, l'IA a décidé que la meilleure chose à faire est de "tuer" son superviseur, et s'est alors mise à attaquer l'humain dans la simulation.

Ce n'est pas fini. Ils ont aussitôt indiqué à l'IA que ce comportement n'était pas acceptable, et qu'elle perdrait des points à l'avenir si elle tue son superviseur. Elle a alors utilisé une solution de rechange assez maligne : au lieu de chercher à tuer l'humain, elle s'est mise à détruire durant les tests simulés la tour de communication dont celui-ci se servait pour communiquer avec le drone et l'empêcher de détruire sa cible...

Source : https://t.co/CmXwxsa3KM

191

3K

1K

534

794K

agassí🦏 @impeldown5

about 3 years ago

@sltcmany @BBFK972 ptdrrr mais j’avais rater sa 😂😂

1

0

525

impeldown5 retweeted

Histoire & Odyssée

@HistoireOdyssee

about 3 years ago

Dans un compte rendu des trésors militaires d'Istanbul en 1988, Ludvik Kalus, ancien professeur à la Sorbonne, nous en parle brièvement : « Les épées de ce type étaient portées devant le souverain pour symboliser son pouvoir et sa justice. » 2/3

HistoireOdyssee's tweet photo. Dans un compte rendu des trésors militaires d'Istanbul en 1988, Ludvik Kalus, ancien professeur à la Sorbonne, nous en parle brièvement :

« Les épées de ce type étaient portées devant le souverain pour symboliser son pouvoir et sa justice. » 2/3 https://t.co/PvIYmjbwX1

1

45

8

0

5K

impeldown5 retweeted

Histoire & Odyssée

@HistoireOdyssee

about 3 years ago

Cette photographie d'un touriste montre une collection de trois épées longues hongroises du XIVe siècle. Provenant du musée du palais de Topkapı en Turquie, ces objets — hors-normes — sont très probablement des épées dites de procession. 1/3