702. Eric Langenskiöld: De största AI-riskerna kommer innan superintelligensen

Vi måste våga prata om elefanten i rummet. Det menar entreprenören, cybersäkerhetskonsulten och AI-föreläsaren Eric Langenskiöld, som är aktuell med sin nya bok How to avoid AI disasters.

Han menar att vi pratar för lite om de katastrofala följder som kraftfulla AI-verktyg - gärna kombinerat med minst lika kraftfulla kvantdatorer - kan få i fel händer. Men han tror samtidigt vare sig på AI-paus eller att vi kan bygga en harmoniserad AI alignment kring mänsklighetens "goda värderingar".

Så vad kan vi göra? Utveckla diskussionen, öka kunskapen, bygga organisatorisk cyberresiliens och kämpa för att AI-makten blir mer decentraliserad.

Samtidigt, menar Langenskiöld, bör vi förbereda oss på att vår starka yrkesidentitet snart kan vara en relik från det förflutna.

Det blir ett vindlande samtal mellan vitt skilda tidshorisonter, mellan utopiska framtider och betydligt mer mörka scenarier. Vad skulle en superintelligens kunna innebära - och skulle den verkligen vilja utrota oss?

Våga lyssna!

Programledare: Christian von Essen // Läs mer på hejaframtiden.se och prenumerera på nyhetsbrevet.