Kredit:NSLAB vid Kungliga Tekniska Högskolan
När Moores lag går mot sitt slut, vänder sig lagringssystem till hårdvaruacceleratorer som FPGA:er för att avlasta datorintensiva uppgifter från processorn. Att tillhandahålla dessa acceleratorer kommer dock med en rejäl prislapp.
Forskare vid Kungliga Tekniska Högskolan och tre andra universitet har funnit att det finns ett alternativt sätt att avlasta datoranvändning utan att göra sådana investeringar. Som det visar sig är Turing kompletta nätverkskort (NIC) som stöder RDMA – en funktion som tillåter direkt läsning/skrivning av serverminne. Detta betyder att de är tillräckligt kraftfulla för att utföra godtyckliga beräkningar snarare än att bara skicka och ta emot paket. Med andra ord kan dessa nätverkskort effektivt omvandlas till mindre processorer för att avlasta datoruppgifter, vilket minskar bördan på server-CPU:er. Dessutom kan detta också minska energiförbrukningen eftersom NIC använder lågeffektschips.
Enligt tidningen, som publicerades på NSDI 2022 i våras, kan sådana avlastningar göras utan några hårdvaruändringar av dessa NIC. För att göra det skapade författarna ett ramverk kallat RedN som kombinerar RDMA-operationer (som utför minnesläsningar/skrivningar) för att uttrycka mer sofistikerade konstruktioner, såsom villkorliga uttalanden och jämna loopar.
"Det coola med det här fyndet är att RDMA NIC är handelsvara, så de är mycket mer tillgängliga för avlastning", säger Waleed Reda, huvudförfattare på denna artikel och forskare vid KTH. "Som sådan är potentialen för påverkan mycket högre eftersom det finns miljontals av dessa enheter redan utplacerade i dagens datacenter."
Utvecklar RDMA-standarden
"RedN borde göra det lättare för forskare att experimentera med NIC-avlastningar och hjälpa till att påskynda innovation inom detta område", säger Waleed. "Dessutom, beroende på hur människor använder RedN, tror jag att vårt ramverk kan skapa tillräckligt med dragkraft för att driva på förändringar i själva RDMA-standarden, för att kanske lägga till mer avancerade RDMA-operationer som förbättrar avlastningseffektiviteten."
Tidningen har utvärderat fördelarna med RedN och visar att det helt kan avlasta GET-operationer för en populär nyckel-värde-butik som heter Memcached – vilket minskar CPU-cykler och förbättrar latensen med upp till 2,6x och 35x i lätt- och tungt belastade inställningar, respektive.
Vad är härnäst?
"Detta arbete öppnar många möjligheter för uppföljande forskning. Vårt arbete fokuserade huvudsakligen på att ladda ner vanliga lagringsuppgifter som att komma åt fjärrstyrda hashtabeller för Memcached. Det finns dock många andra potentiella applikationer som kan riktas mot, inklusive databastransaktioner, distribuerad maskininlärning , och många andra", säger Waleed.
"Utöver det tittar vi också på att automatisera RDMA-kodgenerering för att göra det lättare för utvecklare att använda RedN", tillägger han. "Vi kan välja att skapa en kompilator som konverterar C-liknande språk till körbar RDMA-kod för att ytterligare minska utvecklingstiden."
RedN-projektet har gjorts tillgängligt som öppen källkod för att underlätta ytterligare forskning och experiment med detta ramverk. RedN fick delvis stöd av ERC-projektet ULTRA. + Utforska vidare
