Pentagon antar nya etiska principer när det förbereder sig för att påskynda användningen av artificiell intelligens -teknik på slagfältet.

De nya principerna kräver att människor "utövar lämpliga nivåer av omdöme och omsorg" när de distribuerar och använder AI -system, som de som skannar flygbilder för att leta efter mål.

De säger också att beslut som fattas av automatiserade system bör vara "spårbara" och "styrbara, "vilket betyder" det måste finnas ett sätt att koppla ur eller inaktivera "dem om de visar oavsiktligt beteende, sa Air Force -generallöjtnant Jack Shanahan, chef för Pentagons gemensamma centrum för artificiell intelligens.

Pentagons satsning på att påskynda sina AI -funktioner har gett upphov till ett slagsmål mellan teknikföretag om ett molndatakontrakt på 10 miljarder dollar som kallas Joint Enterprise Defense Infrastructure, eller JEDI. Microsoft vann kontraktet i oktober men har inte kunnat komma igång med det 10-åriga projektet eftersom Amazon stämde Pentagon, hävdar att president Donald Trumps motvilja mot Amazon och dess vd Jeff Bezos skadar företagets chanser att vinna budet.

Ett befintligt militärt direktiv från 2012 kräver att människor har kontroll över automatiska vapen men tar inte upp bredare användningsområden för AI. De nya amerikanska principerna är avsedda att vägleda både strids- och icke-stridsapplikationer, från underrättelseinsamling och övervakning till att förutsäga underhållsproblem i flygplan eller fartyg.

Tillvägagångssättet som beskrivs måndag följer rekommendationer som gjordes förra året av Defence Innovation Board, en grupp som leds av tidigare Googles VD Eric Schmidt.

Medan Pentagon erkände att AI "väcker nya etiska oklarheter och risker, "de nya principerna saknar starkare restriktioner som gynnas av förespråkare för vapenkontroll.

"Jag oroar mig för att principerna är lite av ett etiskt tvättprojekt, "sa Lucy Suchman, en antropolog som studerar AI:s roll i krigföring. "Ordet" lämpligt "är öppet för många tolkningar."

Shanahan sa att principerna är avsiktligt breda för att undvika att handfängsla den amerikanska militären med specifika restriktioner som kan bli föråldrade.

"Tekniken anpassar sig. Tekniken utvecklas, " han sa.

Pentagon slog en vägspärr i sina AI -ansträngningar 2018 efter att interna protester på Google fick teknikföretaget att hoppa av militärens Project Maven, som använder algoritmer för att tolka flygbilder från konfliktzoner. Andra företag har sedan dess fyllt tomrummet. Shanahan sa att de nya principerna hjälper till att återfå stöd från teknikindustrin, där "det var en törst efter att ha denna diskussion."

"Ibland tror jag att ångesten är lite hypad, men vi har människor som har allvarliga problem med att arbeta med försvarsdepartementet, " han sa.

Shanahan sa att vägledningen också hjälper till att säkra amerikansk teknisk fördel då Kina och Ryssland bedriver militär AI med liten uppmärksamhet åt etiska problem.

Lagprofessorn Rebecca Crootof vid Richmond -universitetet sa att antagande av principer är ett bra första steg, men militären måste visa att den kritiskt kan utvärdera de enorma datatrafiker som används av AI -system, samt deras cybersäkerhetsrisker.

Crootof sa att hon också hoppas att USA:s åtgärder hjälper till att fastställa internationella normer kring militär användning av AI.

"Om USA ses ta AI etiska normer på allvar, som standard blir de ett mer allvarligt ämne, " Hon sa.

© 2020 Associated Press. Alla rättigheter förbehållna. Detta material får inte publiceras, utsända, skrivs om eller distribueras utan tillstånd.