Dramatische Warnung

Forscher und Tech-Unternehmer fordern Pause bei KI-Entwicklung: „Wettrennen außer Kontrolle”

Namhafte Forscher in der Künstlichen Intelligenz und bekannte Technologie-Unternehmer wie Tesla-Chef Elon Musk fordern in einem dramatischen Aufruf, die Entwicklung riesiger KI-Systeme sofort zu unterbrechen
© imago

Die Entwicklung von Künstlicher Intelligenz muss sofort gestoppt werden, weil die Risiken zu groß sind – das schreiben Tausende Vertreter:innen der Technologie-Branche in einem offenen Brief. Dazu zählt etwa Tesla-Chef Elon Musk oder Apple-Gründer Steve Wozniak, aber auch führende Wissenschaftlerinnen und Wissenschaftler.

New York ‒ Elon Musk und viele Expertinnen und Experten aus der KI-Branche haben eine sechsmonatige Pause bei der Entwicklung Künstlicher Intelligenzen gefordert. Die Zeit solle genutzt werden, um ein Regelwerk für die Technologie zu schaffen, hieß es in einem am Mittwoch veröffentlichten offenen Brief der Organisation Future of Life.

Leistungsstarke KI-Systeme sollten erst dann entwickelt werden, wenn wir sicher sind, dass ihre Auswirkungen positiv und ihre Risiken überschaubar sind.
Aus dem Offenen Brief von Future of Life

Die Entwickler von KI-Systemen befänden sich derzeit in einem Wettrennen um immer neue Ankündigungen, das "außer Kontrolle" geraten sei.

Generative KI als Gefahr

Neben dem Tesla-Chef Musk unterzeichneten mehr als 1.000 Personen dieses Manifest, darunter Emad Mostaque, Chef der KI-Firma Stability AI und mehrere Entwickler von Googles KI-Tochter DeepMind. Die Verfasser des Briefs wiesen auf die Gefahren sogenannter Generativer KI wie ChatGPT hin. Diese Programme können menschliche Interaktion simulieren und anhand weniger Stichworte Texte oder Bilder erstellen.

Allerdings sei diese Technologie inzwischen so weit fortgeschritten, dass selbst die Entwickler ihre Programme nicht mehr verstehen oder wirksam kontrollieren könnten. Dadurch könnten die Informationskanäle mit Propaganda und Unwahrheiten geflutet und selbst erfüllende Jobs wegrationalisiert werden. Aus diesem Grund sollten alle Entwickler, die an Künstlicher Intelligenz (KI) der nächsten Generation arbeiten, ihre Arbeit öffentlich nachprüfbar einstellen. Geschehe dies nicht umgehend, müssten die Staaten ein Moratorium verhängen.

📽️ Video | Fachmänner warnen vor künstlicher Intelligenz

Rennen um technologische Führerschaft

Seit der Vorstellung von ChatGPT im November 2022 liefern sich viele Großkonzerne, allen voran Microsoft und Google, ein Rennen um die technologische Führerschaft bei KI. Quasi im Wochentakt werden neue Anwendungen vorgestellt, weil sich Unternehmen von dieser Technologie sprudelnde Gewinne versprechen. Einige Staaten wie China betrachten KI als strategisch wichtig und wollen Entwicklern große Freiheiten lassen.

Future of Life zufolge hat Sam Altman, Chef des ChatGPT-Entwicklers OpenAI, den Aufruf nicht unterschrieben. Elon Musk gehört zwar zu den Mitgründern dieser Firma, hat sich aber wiederholt kritisch zu diesem Thema geäußert und staatliche Regulierung gefordert.

Die großen Akteure machen immer größere Geheimnisse um ihre Aktivitäten, was es der Gesellschaft erschwert, sich gegen mögliche Gefahren zu wehren.
Gary Marcus, Professor New York University

"Der Wortlaut ist nicht perfekt, aber der Geist ist richtig: Wir müssen langsamer werden, bis wir die Auswirkungen besser verstehen", sagte Gary Marcus, ein emeritierter Professor der New York University und Unterzeichner des offenen Briefs. Generative KI könne ernsthaften Schaden anrichten. "Die großen Akteure machen immer größere Geheimnisse um ihre Aktivitäten, was es der Gesellschaft erschwert, sich gegen mögliche Gefahren zu wehren."

undefined

🌍📱 Energiefresser im Internet

Digitale Klimasünder: So viel Energie fressen Video-Streaming, Kryptogeld, KI und Co

Verwandte Themen