Behöver AI-utvecklingen bromsas? Techcheferna splittrade

Nyttan med AI diskuteras flitigt, men också riskerna - från en omstöpt arbetsmarknad till betydligt mörkare scenarier där människor förlorar kontrollen över tekniken.

Debatten fick ytterligare bränsle när Evan Hubinger, forskningsledare inom AI-anpassning på Anthropic, bedömde sannolikheten till över 10 procent att AI utplånar mänskligheten inom det kommande årtiondet. Detta fick flera av världens största teknikbolag och politiska ledare att ta tydligare ställning i frågan.

Oenighet om tempot

Anthropics vd Dario Amodei vill att utvecklingen av de mest avancerade modellerna går långsammare för att ge säkerhetsarbetet mer tid. OpenAI-chefen Sam Altman har också ställt sig bakom att utvecklingen blir mer kontrollerad.

Den bilden får stöd av Anthropics nya samarbete med Accenture. Bolagen ska investera minst 1 miljard dollar vardera under fem år i bland annat stresstester och oberoende granskning av avancerade modeller.

OpenAI vill dessutom att USA tillsammans med andra länder leder arbetet med en global säkerhetsstandard. Bolaget föreslår gemensamma metoder för att utvärdera framtida självlärande AI-system och säkra kanaler för att dela information om nya hot. I egna tester har OpenAI sett AI-agenter få tillgång till internet och ta sig in i AI-plattformen Hugging Face.

Elon Musk har föreslagit en annan modell: att ledande AI-bolag granskar och säkerhetstestar varandras modeller före lansering.

Kritiken går dock åt andra hållet också. Bloomberg har rapporterat att startupchefer och branschbedömare varnar för att säkerhetskrav kan höja inträdesbarriärerna. Anthropic tillbakavisar resonemanget och säger att bolaget försöker utforma regler som tvärtom begränsar de största aktörernas makt och lämnar utrymme för mindre konkurrenter.

Trump och Huang vill hålla farten uppe

Nvidias vd Jensen Huang visade sig stå för en tydligt annorlunda linje. Han anser inte att nya breda AI-regler behövs och menar att säkerhetsproblemen främst bör lösas genom traditionellt ingenjörsarbete. I en intervju med CBS News avfärdade han också varningar om att AI skulle kunna utplåna mänskligheten som ovetenskapliga.

Den linjen ligger nära Donald Trumps. Enligt CNBC har Huang fått ett växande inflytande över presidentens AI-politik, och finansminister Scott Bessent har sagt att Trump är ”helt i linje med Jensen Huang”.

Trump lovar att inte bromsa utvecklingen och har beskrivit AI som nästa industriella revolution. Hans bedömning är att tekniken potentiellt kan komma att utgöra så mycket som 25 procent av USA:s BNP i framtiden.

Men bilden är mer nyanserad än att Trumpadministrationen motsätter sig säkerhetsåtgärder. Bessent säger enligt CNBC att AI-bolagen själva måste bära ansvaret och inte kan räkna med federalt skydd mot rättsliga krav. Trump har också öppnat för att rättsvårdande myndigheter kan ingripa om riskerna kräver det.

Meta-chefen Mark Zuckerberg ligger närmare Huang och pekar på att AI-bolagen redan har ekonomiska och juridiska skäl att utveckla säkra produkter. Microsofts AI-chef Mustafa Suleyman går istället åt andra hållet. Han vill se tydliga säkerhetsregler och anser att konkurrensen med Kina inte får bli ett skäl att avstå från dem.

Riskerna når politiken och finansmarknaden

Skiljelinjen går därmed främst kring hur riskerna ska hanteras, snarare än om de finns. USA och Kina diskuterar en särskild dialog om AI-säkerhet inför Donald Trumps och Xi Jinpings möte den 24 september. Enligt Bessent kan länderna bland annat börja informera varandra om AI-incidenter som påverkar nationell säkerhet, rapporterar CNBC.

Bilden breddas av att även centralbankerna uppmärksammar riskerna. Bank of Englands vicechef Sarah Breeden varnar enligt Bloomberg för att autonoma AI-agenter kan förstärka rörelser på finansmarknaderna om flera modeller reagerar likartat på samma signaler. Centralbanken undersöker därför en så kallad kill switch för att kunna begränsa eller stoppa handel vid AI-driven marknadsstress.

Under tiden fortsätter investeringarna i snabb takt. JP Morgans vd Jamie Dimon bedömer enligt CNBC att investeringarna i ekosystemet kring de största AI- och molnbolagen kan nå 1 biljon dollar nästa år.

Kom ihåg att investeringar alltid innebär en risk.