Last updated on Juni 20th, 2023 at 09:04 am
Führende KI-Experten, darunter der CEO von OpenAI, Sam Altman, haben eine Erklärung veröffentlicht, in der sie fordern, dass die Eindämmung der potenziellen Risiken von KI eine ebenso hohe Priorität haben sollte wie ein Atomkrieg oder eine Pandemie. Die prägnante Erklärung, die von einem Dachverband von KI-Führungskräften veröffentlicht wurde, soll die Diskussion anregen und das Bewusstsein der wachsenden Zahl von Experten schärfen, die über die schwerwiegenden Risiken im Zusammenhang mit fortgeschrittener KI besorgt sind. Zu den Unterzeichnern gehören prominente Persönlichkeiten wie Geoffrey Hinton und Yoshua Bengio, zwei der drei „Paten der KI“, sowie Demis Hassabis, CEO von Googles DeepMind, und Dario Amodei, CEO des KI-Unternehmens Anthropic, wie DW berichtet.
Die Erklärung kommt zu einem Zeitpunkt, an dem Politiker und führende Vertreter der Technologiebranche zum Treffen des Handels- und Technologierates EU-USA in Schweden zusammenkommen, um über die Regulierung von KI zu diskutieren. Es wird erwartet, dass Altman von OpenAI mit dem EU-Industriechef Thierry Breton zusammentrifft, um die Umsetzung der bevorstehenden KI-Vorschriften der EU zu besprechen. Altman hatte sich zuvor besorgt über die vorgeschlagenen Vorschriften geäußert, seine Haltung aber inzwischen abgeschwächt.
Obwohl die Erklärung nicht auf spezifische Risiken oder Strategien zur Risikominderung eingeht, bezieht sie sich auf die jüngsten Äußerungen von Yoshua Bengio, der auf potenzielle Risiken im Zusammenhang mit der Verfolgung von Zielen durch KI hinweist, die mit menschlichen Werten in Konflikt stehen. Zu diesen Risiken gehören böswillige menschliche Akteure, die KI anweisen, schädliche Aktivitäten zu unternehmen, die Fehlinterpretation von unangemessen spezifizierten Zielen, die Entstehung von Unterzielen mit nachteiligen Folgen und die Entwicklung von eigennützigem Verhalten durch KI, um ihr eigenes Überleben zu sichern.
Bengio schlägt vor, die Forschung im Bereich der KI-Sicherheit zu verstärken, die Verfolgung realer Ziele durch KI vorübergehend einzuschränken und tödliche autonome Waffen zu verbieten. Die Erklärung und Bengios Erkenntnisse tragen zum laufenden Dialog über die Ethik der KI und die Notwendigkeit einer verantwortungsvollen Entwicklung und Regulierung bei, um sicherzustellen, dass die Vorteile der KI maximiert und gleichzeitig die potenziellen Risiken minimiert werden.
Discussion about this post