Det är en ny dag inte särskilt långt fram i tiden. Du vaknar upp; ditt armbandsur har registrerat hur länge du har sovit, och övervakade ditt hjärtslag och din andning. Du kör till jobbet; bilsensorer spårar din hastighet och bromsning. Du hämtar lite frukost på vägen, betalning elektroniskt; transaktionen och kaloriinnehållet i din måltid registreras.

Då råkar du ut för en bilolycka. Du ringer ditt försäkringsbolag. Ditt samtal besvaras omedelbart. Rösten i andra änden vet ditt namn och chattar vänligt med dig om din katt och hur ditt favoritfotbollslag gjorde i helgen.

Du pratar med en chat-bot. Anledningen till att det "vet" så mycket om dig är att försäkringsbolaget använder artificiell intelligens för att skrapa information om dig från sociala medier. Den vet mycket mer förutom, eftersom du har gått med på att låta den övervaka dina personliga enheter i utbyte mot billigare försäkringspremier.

Det här är inte science fiction. Mer än tre fjärdedelar av försäkringscheferna tror att artificiell intelligens kommer att revolutionera branschen inom några år. Till 2030, enligt McKinsey futurister, artificiell intelligens kommer att innebära att dina bil- och livförsäkringspremier kan ändras beroende på om du väljer att ta en eller annan väg.

Den kommer att säljas till dig med löfte om mer personlig service, snabbare skadehantering och lägre premier – och det kommer att uppfylla dessa löften, för det mesta.

Men det finns också etiska risker – datasekretess och diskriminering bland dem. Ett försäkringsbolag kan använda dina uppgifter för att ta reda på hur mycket du skulle vara villig att betala för skyddet. Det kan sälja informationen till en tredje part. AI kan besluta att du utgör en större risk på grund av din ålder, sex, inkomst eller etnicitet.

Sakernas internet

Även om försäkringsbranschen i allmänhet har ett föga avundsvärt rykte om att ta människors pengar och sedan vägra att betala, det är en mycket konkurrensutsatt sektor. De mindre smidiga kommer förmodligen inte att överleva mot konkurrenter som använder AI för att förbli lönsamma samtidigt som de sänker sina premier.

För att erbjuda lägre premier, en försäkringsgivare behöver veta att en individ är, faktiskt, en lägre risk. Den möjliggörande tekniken är sakernas internet, samlingsnamnet för de miljarder internetanslutna sensorer som är inbäddade i alla möjliga föremål vi använder varje dag. De finns i telefoner, klockor, bilar, träningsspårare, hemassistenter och mycket annat. Tillsammans bildar de ett "ekosystem" av sensorer.

Data som samlas in över tid gör det möjligt för försäkringsgivaren att göra en individuellt anpassad riskprofil baserad på en persons faktiska beteende, en praxis som kallas beteendepolitisk prissättning .

Bli "smart"

För att sänka din hus- och inboförsäkring, försäkringsbolaget kommer att lappa in i AI-hubben som driver ditt "smarta hem" genom sitt ekosystem av sensorer.

Om det finns ett mönster av inbrott i grannskapet, hemhubben kommer att veta, eftersom den är ansluten till försäkringsgivarens nätverk. Lås och larm kan förberedas och polisen tillkallas vid första tecken på problem. För att hantera brandrisken, sensorer kommer att övervaka värme, fukt och upptäcka rök. Om spisen blir kvar på hemhubben kommer att stänga av den innan det blir ett problem.

För att beräkna lägre bilförsäkringspremier, ditt försäkringsbolag kanske vill övervaka hur du kör och underhåller din bil.

Sjukförsäkringspremier kan kräva att försäkringsgivaren får tillgång till dina journaler och bär en träningsmätare.

En ny industrisektor kommer att växa fram. Specialistföretag som distribuerar IoT-sensorer och samlar in data kommer att samarbeta med försäkringsbolag för att bilda ett nytt affärsekosystem. Hela branschen kommer att gå från enbart reaktiv försäkring till proaktiv, riskminimerande täckning.

Det hela låter ganska positivt. Men det finns också bredare risker i den snäva strävan efter att minimera försäkringsrisken.

Diskriminering

En mycket tydlig fara är problemet med profilering – att bedömas som en högre eller lägre försäkringsrisk eftersom man tillhör en viss demografisk grupp.

AI kan nu differentiera risk i hundratals faktorer. Algoritmer skannar dessa faktorer för att identifiera kluster av tidigare okända risker. De kan också härleda kluster på egen hand.

Men dessa slutsatser kan oavsiktligt diskriminera. Det finns redan många exempel där AI-algoritmer oavsiktligt har förstärkt stereotyper.

Fallet med förutseende polisarbete i Durham, England, illustrerar problemet. Polisen där utvecklade en algoritm för att bättre förutse risken för personer som åtalas för ett brott om de skulle beviljas borgen. Vad den gjorde var att diskriminera fattigare människor på grundval av var de bodde.

Opportunistisk prissättning

Det finns också utsikter till mer individualiserad diskriminering.

Redan ganska välkänt är problemet med genetisk diskriminering – risken för att en sjuk- eller livförsäkringsgivare höjer premierna eller till och med nekar täckning för vissa tillstånd baserat på vad ditt DNA avslöjar om din genetiska disposition för vissa tillstånd.

AI öppnar upp ett helt nytt område av personlig diskriminering, baserat på vad den kan få ut av dina beteenden och preferenser.

För en sak, den mängd data som potentiellt är tillgänglig för AI kan berätta för en försäkringsgivare mycket om dina utgiftsvanor. Var handlar du? Vad köper du? När spenderar du? Söker du fynd eller betalar du fullt pris?

Att veta allt detta kommer att hjälpa ett försäkringsbolag att uppskatta om det kan komma undan med att ta ut högsta pris.

Vissa i branschen hävdar att det bara är så marknader fungerar, men när det underlättas av oöverträffad tillgång till personlig information, det blir en mycket tveksam praxis.

Förlust av integritet

En försäkringsgivare kan också frestas att använda uppgifterna för andra syften än att bedöma risk. Med tanke på dess värde, uppgifterna kan säljas till tredje part för olika ändamål för att kompensera kostnaderna för att samla in dem. Annonsörer, marknadsförare, lobbyister och politiska partier är alla omättligt hungriga efter detaljerade demografiska uppgifter.

Tvärtemot vad folk kanske tror, denna data är inte egendomen hos den person den avser. Den ägs av den som har betalat för den. Konsumenter måste vara juridiskt skyddade mot att deras data används för andra ändamål utan deras informerade samtycke.

Hantera risker

Med all kraftfull ny teknik finns det fördelar och risker. Fördelarna bör tydliggöras och riskerna hanteras ner till en acceptabel nivå. There is of course irony in having to manage the risk of managing risk.

Insurance companies have a job to do to ensure customers can trust there is far more upside than downside in AI. They will need to adopt transparently fair, if not benevolent, practices that contribute to the greater good. It has to be about more than profit.

Den här artikeln är återpublicerad från The Conversation under en Creative Commons-licens. Läs originalartikeln.