Startup Diveplane vill göra AI etiskt:VD förklarar vad det betyder

Kredit:Pixabay/CC0 Public Domain

I dagens värld används artificiell intelligens för att fatta stora beslut. Högskolor förlitar sig på det för att anta studenter. Frigivningsnämnder använder det för att godkänna eller neka fångar att friges.

En startup i North Carolinas Research Triangle strävar efter att göra AI-system mer etiska, och företaget har säkrat betydande finansiering för att göra det. På måndagen tillkännagav Diveplane att de hade samlat in 25 miljoner dollar i serie A-finansiering, stora pengar för tidig investering. Raleigh-företaget är stolt över att skapa etisk artificiell intelligens, ansvarsfull användning av maskiner genom att identifiera och korrigera för oavsiktlig fördom.

Diveplane grundades 2018 av Michael Capps, tidigare president för Cary, North Carolina-baserade Epic Games. Under de senaste fyra åren har Diveplane attraherat ett antal anmärkningsvärda kunder och investerare, inklusive flera amerikanska fotbollsstjärnor.

Nu backas upp med ytterligare miljoner från riskkapital- och försvarsföretag, vill Diveplane skala upp, med det slutliga målet att omforma AI-systemen som har kommit att diktera mycket av det dagliga livet.

Så vad gör Diveplanes syn på AI unik? Och hur stor hoppas den bli? Den 15 september pratade Capps med The News &Observer för att diskutera. Här är fem stora takeaways:

Förklarlig AI kontra svart låda

Diveplane tillhandahåller vad som kallas förklarbar artificiell intelligens, system som låter människor bättre förstå hur maskinernas resultat kom till. Med denna tydlighet sa Capps att organisationer bättre kan identifiera brister som kan ge partiska resultat.

"För att det (för att hända) krävs en mänsklig beröring," sa Capps. "Den där utvärderingen av att kunna gå tillbaka och säga:"Det var inte så vi ville anställa folk på vårt företag. Den här A.I. gjorde något fel. Låt oss fixa det."

Förklarlig AI står i kontrast till den typ av AI som oftast används idag, neurala nätverkssystem, modellerade efter de biologiska funktionerna i mänskliga hjärnor. De flesta neurala nätverkssystem, sa Capps, är kända som "black box AI", vilket betyder att ingen – varken de organisationer som använder tekniken eller de människor som påverkas av den – kan se exakt hur de fungerar.

"Det kan fungera bra, men det kanske inte," sa han. "Och det faktum att vi inte vet, men det används för att fatta sådana kritiska beslut känns olämpligt. Mer än olämpligt, det gör mig förbannad."

Uppskalning

Diveplane räknar Duke Health och bilracingteamet Roush Fenway Keselowski Racing bland sina kunder i North Carolina. Capps sa att Diveplane siktar på att använda sin senaste finansiering för att locka fler kunder inom försvar, försäkring och finans.

"Detta är en sann, verklig affär," sa han. "Låt oss nu ta reda på hur vi ska börja skala den."

Capps hoppas att Diveplane en dag kan hjälpa till att förskjuta black box-teknologier, och han sa att investerare har börjat se förklarlig AI har en marknad. När konsumenterna blir mer medvetna om AI-etik, sa han att företag och organisationer har känt press för att se till att deras system är transparenta.

Som ett tecken på denna växande medvetenhet sitter Capps i ledarskapsrådet för Data and Trust Alliance, en grupp chefer från stora företag som Walmart, Starbucks, Nike och CVS som har förbundit sig att främja mer ansvarsfull artificiell intelligens och system för maskininlärning.

Nytt kontor, dubbel personal

Med sin senaste finansiering ser Diveplane ut att fördubbla sin personalstyrka från cirka 20 till 40 anställda. Capps noterade att han hoppas att detta bara är den första av många jobbexpansioner.

Hans företag öppnar också ett nytt kontor i Smoky Hollow-utvecklingen i Downtown Raleigh. Trots det inkommande högkvarteret sa Capps att många dykplansarbetare kan vara baserade utanför staden eller staten.

"Jag ville bygga ett Raleigh-baserat teknikföretag med talangerna här, men världen förändrades så mycket med distansarbete", sa han. "Så, det är dumt av oss att inte kasta ett väldigt brett nät. Plus, människorna där ute som bryr sig om vad vi gör, hur vi gör det, de finns överallt. Vi letar efter sanna troende i uppdraget."

Investerare med en kick

Några av Diveplanes tidigaste investerare var högprofilerade idrottare som amerikanska fotbollsspelare Becky Sauerbrunn, Megan Rapinoe och UNC alun Mia Hamm. Den pensionerade basketspelaren Sue Bird (Rapinoes fästman) och före detta basebollspelaren Nomar Garciaparra (Hamms man) investerade också.

Capps fick först kontakt med många av spelarna genom deras engagemang i en 3D-utskriftsstart som heter Carbon. Capps och Hamm var rådgivare medan andra investerade. Carbon visade sig vara en framgång, och Rapinoe, Hamm och andra var öppna för att investera när Capps nämnde sin idé om ett nytt etiskt AI-företag.

Lektioner från Epic

Från 2004 till 2013 var Capps president för Epic Games, den Cary-baserade skaparen av videospeltitlar som Fortnite, Rocket League och Gears of War. Även om Capps inte var med företaget för dess största framgång – Fortnite – sa han att det fanns en ambition på Epic som han tror har översatt till Diveplane.

"Här är det en helt annan verksamhet (från Epic), men jag tror att vi har den här grundläggande förväntningen på excellens," sa han. "Det var aldrig någon fråga (på Epic) om att det inte skulle bli jättestort, och jag tror att det i högsta grad gäller detta." + Utforska vidare