Arbetet i EU med vad som har varit tänkt att bli världens första omfattande reglering av artificiell intelligens är inne på sluttampen. Två års förhandlingar är tänkta att rundas av på onsdag den här veckan.

Lagstiftarna vill bland annat införa en översyn av så kallad generativ AI-teknologi, kapabel att skapa bilder, musik och texter. Tanken är att nya system ska kunna utvärderas utifrån den risk det anses utgöra för konsumenterna, från en minimal till en oacceptabel nivå.

Men Tyskland, Frankrike och Italien meddelade nyligen att de inte vill att företag som ägnar sig åt generativ AI främst ska regleras i lag, utan i stället via en egen uppförandekod. Detta med argumentet att riskerna inte ligger hos själva teknologin, utan i hur den används.

I och med detta riskerar processen att kraftigt försenas eller helt rinna ut i sanden. En oro finns för att en överenskommelse inte ska kunna komma på plats innan EU-valet nästa sommar.

Professorn: Som att singla slant

Max Tegmark, professor i fysik vid MIT och en flitig debattör på AI-området, säger till SVT Nyheter att han är orolig för vad som skulle kunna hända om kraftfulla framtida teknologier hamnar i ett företags eller individs händer.

– De som varnar, inklusive mig, säger inte att det garanterat kommer gå åt skogen. Det vi säger att det är ganska arrogant att singla slant när man inte säkert vet att det kommer gå bra, säger han.

Att undanta företag som utvecklar generativ AI från reglering vore att missa målet, enligt Max Tegmark.

– ChatGPT och vad som kallas för ”foundation models” är hela framtiden för AI. Det fransmännen vill göra är i princip att göra ett undantag för hela framtiden. De reglerar gårdagens AI.