Forskare: AI måste ha en inbyggd dödsknapp
En grupp forskare vid universitetet i Cambridge har presenterat en rapport som föreslår en inbyggd dödsknapp i AI-system.
I rapporten föreslås en lösning för att hantera potentiellt farlig AI: en inbyggd dödsknapp i hårdvaran, något som Computer Sweden också skrivit om. Denna dödsknapp kan aktiveras på distans och ses som en säkerhetsåtgärd som aktiveras när användaren tappar kontroll.
LÄS MER: AI-övervakning ökar på arbetsplatsen – ska förhindra mobbning
Forskarna: En viktig säkerhetsåtgärd mot AI
Forskarna argumenterar för att en kill switch kan vara nödvändigt för att stoppa AI-system som löper amok och orsakar skada. De menar att detta är en viktig säkerhetsåtgärd.
LÄS MER: Google:s nya AI-modell – stort kliv ifrån konkurrenterna
Andra idéer för AI-säkerhet
Forskarna presenterar även andra idéer för bättre AI-säkerhet. De föreslår bland annat:
- Reglering och registrering av AI-hårdvara för att hindra missbruk.
- Godkänningsprocesser för riskabla AI-träningsscenarier.
- Omfördelning av AI-resurser för att säkerställa att tekniken gynnar hela samhället.
LÄS MER: OpenAI lanserar modellen Sora – gör realistiska videor utifrån text
LÄS MER: Google släpper gratis AI-app för mobilen
Informationen och texten i artikeln är framtagen med hjälp av Google:s AI-verktyg Gemini. Den är därefter bearbetad och faktagranskad av Nyheter24.
