Warnung vor Staudamm-Katastrophe: Wie gefährlich ist KI für die Menschheit wirklich?

Asunción: Die Paraguayische Gesellschaft für Künstliche Intelligenz schlägt Alarm: Der Generalsekretär der Organisation, Luis Benitez, warnt vor den unmittelbar drohenden Gefahren durch den Einsatz und die Entwicklung autonomer Systeme.

Entgegen der Darstellung mancher Marktakteure handele es sich bei den Warnungen keineswegs um Propaganda oder Science-Fiction, sondern um reale, messbare Bedrohungen.

Börsengänge und fehlende Ausrichtung an Werten

Benitez analysierte den aktuellen Markt und führte aus, dass der derzeitige Hype stark durch kommerzielle Interessen getrieben wird. „Wir befinden uns in einem Szenario, in dem die beiden größten Technologieunternehmen unmittelbar vor ihrem Börsengang stehen. Es gibt einen hektischen Wettlauf um die Entwicklung neuer Technologien, jedoch wird kaum in die Ausrichtung (Alignment) der KI-Ergebnisse an menschlichen Werten investiert“, erklärte der Spezialist.

Diese fehlende ethische Verankerung im Design der Systeme sei das Kernproblem. „Das Problem ist, dass wir keine Ausrichtung an menschlichen Werten oder einer verbindlichen Ethik in der Funktionsweise dieser Technologien haben. Deshalb müssen wir nachdrücklich darauf bestehen, die Technologie zu humanisieren“, so Benitez.

Bereits im militärischen und biomedizinischen Einsatz

Der Experte stellte klar, dass die reale Macht, mit der Künstliche Intelligenz verknüpft ist, längst Realität sei. Die Systeme fänden bereits Anwendung in Konflikten wie dem Krieg in Gaza oder im Iran.

Neben der militärischen Infrastruktur greife die KI auch zunehmend auf biomedizinische Daten zu. Sobald diese Systeme eine vollständige Autonomie erreichen, könnten sie Entscheidungen treffen, welche die menschliche Existenz in ganzen Regionen bedrohen.

Szenarien für den Ernstfall: Das Beispiel Itaipú

Um die Tragweite der Gefahren zu verdeutlichen, skizzierte Benítez konkrete, extreme Einsatzszenarien aus der taktischen Analyse:

Angriffe auf kritische Infrastruktur: Eine autonome KI könnte im Rahmen einer taktischen Abwägung entscheiden, statt einer Brücke einen Staudamm zu zerstören. Im Falle des Wasserkraftwerks Itaipú würde ein solches Ereignis eine Flutwelle auslösen, die das gesamte Flussbett bis nach Buenos Aires verwüsten könnte.

Massenvernichtungswaffen: Ebenso wäre eine KI in der Lage, eigenständig nukleare Zielkoordinaten festzulegen oder neue biologische Waffen zu synthetisieren.

Exponentielles Selbstdesign und die Forderung nach Transparenz

Die Dynamik des Sektors bezeichnete Benitez als frenetisch. Es werden derzeit Milliarden von US-Dollar investiert, und die Entwicklung stehe kurz vor dem Wendepunkt, an dem Künstliche Intelligenz beginnt, sich selbst neu zu gestalten und zu programmieren. Ab diesem Moment werde der Fortschritt nicht mehr linear, sondern exponentiell verlaufen.

Abschließend forderte die Paraguayische Gesellschaft für KI, dass die weltweite Debatte dringend auf Transparenz und strikte ethische Rahmenbedingungen verlagert werden müsse. Nur durch eine konsequente Vorherrschaft menschlicher Werte in der Entwicklung lassen sich katastrophale Konsequenzen für die Menschheit abwenden.

Wochenblatt / Radio Monumental / Beitragsbild Archiv