Online: Informationsstunde mit AI-Safety-Experten
Dienstag, 20. Oktober 2026, 15.00 bis 16.00 Uhr
Wo: online
Zoom Link: https://scientists4future-at.zoom.us/j/81121609537?pwd=qcySle1c6251vjbR4WN9vZ5ijJxlaj.1
Veranstalter: Scientists for Future
Anmeldung: public-relations@scientists4future.at
Mehr Info: https://www.scientists4future.at/mc-events/informationsstunde-mit-dem-ai-safety-experten-benjamin-balde/
Liebe Scientists for Future und Alle,
in Reaktion auf die wachsende Besorgnis rund um die jüngsten Ereignisse und Entwicklungen bei künstlicher Intelligenz laden wir zu einer Online-Informationsstunde mit dem AI-Safety-Experten Benjamin Balde ein.
Wann: Kommenden Dienstag, 20. Oktober, 15:00-16:00 Uhr
Wo: Zoom Link: www.https://scientists4future-at.zoom.us/j/81121609537?pwd=qcySle1c6251vjbR4WN9vZ5ijJxlaj.1
Wir würden uns über eine Anmeldung bei Sophie, public-relations@scientists4future.at freuen!
Informationsstunde mit dem AI-Safety-Experten Benjamin Balde
Seit dem Sommer haben sich ernste Sicherheitsvorfälle mit sogenannten AI-Agents gehäuft. Die Weiterentwicklung von AI hat sich gleichzeitig enorm beschleunigt, was durch die ungeheuren Fähigkeiten der jüngst veröffentlichten Modelle bestätigt wird. Mehrere führende KI-Unternehmen verfolgen zudem erklärtermaßen das Ziel, eine Superintelligenz zu entwickeln: KI-Systeme, die dem Menschen in nahezu allen kognitiven Fähigkeiten überlegen sind.
Ein zentraler Weg dorthin sind Systeme, die ihre eigene Weiterentwicklung zunehmend selbst vorantreiben (rekursive Selbstverbesserung, RSI). Bislang gibt es kein Verfahren, mit dem sich zuverlässig sicherstellen lässt, dass solche Systeme unter menschlicher Kontrolle bleiben.
Eine künstliche Superintelligenz ist seit langem eine wissenschaftlich anerkannte, potentiell existenzbedrohende Gefahr. Führende KI-Forscher:innen, darunter die Turing-Preisträger Geoffrey Hinton und Yoshua Bengio, warnen vor einem irreversiblen Kontrollverlust mit existenziellen Folgen für die Menschheit. Wir müssen zu diesem Zeitpunkt aufgrund der jüngsten Fortschritte davon ausgehen, dass die Erschaffung einer ASI zeitnah möglich sein könnte.
Die Entwicklung immer mächtigerer AI-Modelle sind ein Billion-Dollar teures, wissenschaftliches Experiment, das aktuell durch Start-ups und Tech-Konzerne ohne unabhängige wissenschaftliche Überwachung und angemessen begleitende Forschung, strikte Regulierung oder staatliche Aufsicht durchgeführt wird. Ein klarer und eindeutiger Nachweis, dass dieses Experiment sicher durchgeführt werden kann, fehlt völlig. Im Gegenteil: AI-Safety-Forscher wie Prof. Roman Yampolskiy vertreten die Auffassung, dass die Kontrolle über eine ASI ein nicht lösbares Problem darstellt.
Ein sofortiger Stopp der Entwicklung neuer Frontier-Modelle (Stop the Frontier) sowie ein Verbot von RSI und ASI ist somit dringend erforderlich. Die verschiedenen Disziplinen der Wissenschaft müssen die notwendige Zeit erhalten, um die Implikationen dieser neuen Technologie für die Menschheit zu erforschen und die Risiken und Handlungsoptionen zu klären.
!! Anmerkungen der Nachhaltig-in-Graz-Redaktion !!
Bitte informier dich sicherheitshalber vor der Veranstaltung direkt bei den Veranstaltern, ob sie tatsächlich stattfindet.
Bleib mit unserem Newsletter informiert – er kommt unregelmäßig und nicht zu oft!
Kennst du schon unsere eigene kostenlose App Nachhaltig in Graz?
Deine Spende wirkt – und ist von der Steuer absetzbar:
Du willst und kannst unser Tun auch finanziell unterstützen? Danke – uns hilft jeder Beitrag, um unsere Website in dieser Qualität und Fülle weiterführen zu können! Deine Spende ist von der Steuer absetzbar, wenn du uns deinen vollen Namen (laut Meldezettel) und dein Geburtsdatum bekannt gibst.
Verein „Nachhaltig in Graz“
BIC: STSPAT2GXXX
IBAN: AT20 2081 5000 4200 1552
Verwendungszweck: Spende/Name laut Meldezettel/Geburtsdatum (Mehr dazu hier)