Biden-administrationen presenterade en uppsättning långtgående mål på tisdagen som syftar till att avvärja skador orsakade av uppkomsten av artificiell intelligens, inklusive riktlinjer för hur man skyddar människors personuppgifter och begränsar övervakningen.

The Blueprint for an AI Bill of Rights anger framför allt inte specifika verkställighetsåtgärder, utan är istället avsedd som en uppmaning från Vita huset till den amerikanska regeringen för att skydda digitala och medborgerliga rättigheter i en AI-driven värld, sa tjänstemän.

"Detta är Biden-Harris-administrationen som verkligen säger att vi måste arbeta tillsammans, inte bara över regeringen, utan över alla sektorer, för att verkligen sätta rättvisa i centrum och medborgerliga rättigheter i centrum för de sätt som vi gör och använder och styr teknologier", säger Alondra Nelson, biträdande chef för vetenskap och samhälle vid Vita husets kontor för vetenskap och teknologipolitik. "Vi kan och bör förvänta oss bättre och kräva bättre av vår teknik."

Kontoret sa att vitboken representerar ett stort framsteg i administrationens agenda för att hålla teknikföretag ansvariga, och lyfte fram olika federala myndigheters åtaganden att väga nya regler och studera de specifika effekterna av AI-teknik. Dokumentet kom fram efter ett årslångt samråd med mer än två dussin olika avdelningar och innehåller också feedback från civilsamhällets grupper, teknologer, industriforskare och teknikföretag inklusive Palantir och Microsoft.

Den lägger fram fem kärnprinciper som Vita huset säger bör byggas in i AI-system för att begränsa effekterna av algoritmiska fördomar, ge användare kontroll över sina data och säkerställa att automatiserade system används säkert och transparent.

De icke-bindande principerna citerar akademisk forskning, byråstudier och nyhetsrapporter som har dokumenterat verkliga skador från AI-drivna verktyg, inklusive ansiktsigenkänningsverktyg som bidrog till felaktiga arresteringar och ett automatiserat system som diskriminerade lånsökande som deltog i en Historically Black Högskola eller universitet.

Vitboken sa också att både föräldrar och socialarbetare skulle kunna dra nytta av att veta om barnskyddsmyndigheter använde algoritmer för att avgöra när familjer ska utredas för misshandel.

Earlier this year, after the publication of an AP review of an algorithmic tool used in a Pennsylvania child welfare system, OSTP staffers reached out to sources quoted in the article to learn more, according to multiple people who participated in the call. AP's investigation found that the Allegheny County tool in its first years of operation showed a pattern of flagging a disproportionate number of Black children for a "mandatory" neglect investigation, when compared with white children.

In May, sources said Carnegie Mellon University researchers and staffers from the American Civil Liberties Union spoke with OSTP officials about child welfare agencies' use of algorithms. Nelson said protecting children from technology harms remains an area of concern.

"If a tool or an automated system is disproportionately harming a vulnerable community, there should be, one would hope, that there would be levers and opportunities to address that through some of the specific applications and prescriptive suggestions," said Nelson, who also serves as deputy assistant to President Joe Biden.

OSTP did not provide additional comment about the May meeting.

Still, because many AI-powered tools are developed, adopted or funded at the state and local level, the federal government has limited oversight regarding their use. The white paper makes no specific mention of how the Biden administration could influence specific policies at state or local levels, but a senior administration official said the administration was exploring how to align federal grants with AI guidance.

The white paper does not have power over tech companies that develop the tools nor does it include any new legislative proposals. Nelson said agencies would continue to use existing rules to prevent automated systems from unfairly disadvantaging people.

The white paper also did not specifically address AI-powered technologies funded through the Department of Justice, whose civil rights division separately has been examining algorithmic harms, bias and discrimination, Nelson said.

Tucked between the calls for greater oversight, the white paper also said when appropriately implemented, AI systems have the power to bring about lasting benefits to society, such as helping farmers grow food more efficiently or identifying diseases.

"Fueled by the power of American innovation, these tools hold the potential to redefine every part of our society and make life better for everyone. This important progress must not come at the price of civil rights or democratic values," the document said. + Utforska vidare

White House proposes tech 'bill of rights' to limit AI harms

© 2022 Associated Press. Alla rättigheter förbehållna. Detta material får inte publiceras, sändas, skrivas om eller omdistribueras utan tillstånd.