Die Entscheidung für den Einsatz mehrerer ineinandergreifender KI-Systeme kam dort nicht zufällig. Wie das Magazin „+972“ schreibt, reagierte die israelische Armee damit auf eine politische Entscheidung nach dem Angriff der Hamas vom 7. Oktober 2023: Die Definition dessen, wer als legitimes Ziel gilt, wurde ausgeweitet – und damit der Anwendungsbereich automatisierter Zielvorschläge.
Diese Vielzahl von Personen konnte laut dem Bericht von Menschen schlicht nicht mehr überwacht werden. Die KI ist im Gegensatz dazu aber in der Lage, mit so großen Datenmengen umzugehen.
Rehak fasst die Ergebnisse der Recherchen so zusammen: „Israel hat die gesamten Kommunikationsdaten aus Gaza – also Text, Audio, Telefon, Social-Media.“ Zudem kenne die Armee wie Bewegungs- oder Zahlungsdaten. „Diese Daten werden mit Personen verbunden, die KI berechnet daraus dann Ähnlichkeitsrelationen.“
Das Programm errechnet einen Score, wie stark einzelne Personen dem Profil von Hamas-Terroristen entsprechen. Vonseiten des Militärs wurde dabei schon eine Vorentscheidung getroffen: Wie „+972“ schreibt, wurde beim Training der KI eine sehr lose Definition dafür verwendet, wann jemand als Hamas-Angehöriger gilt. „Die Ähnlichkeit kann der Arbeitsweg sein, das kann der Ort sein, wo man Brötchen gekauft“, sagt Informatiker Rehak dazu.
Wird ein bestimmter Grenzwert überschritten, ist eine Person laut dem System ein legitimes Ziel. Wie der Informatiker erklärt, ist die Festlegung des Grenzwerts dabei aber willkürlich.
Als statistisches System operiert die KI laut Rehak immer mit einem gewissen Fehlerquotienten: „Wenn ich einen Text übersetze oder mir Spotify aus meiner Musikhistorie drei Songs vorschlägt, die ich nicht hören will, ist das nicht so schlimm.“ Sie aber einzusetzen, wenn es um Menschenleben geht, sei eine mehr als fragwürdige Entscheidung. Im Falle der KI-Systeme, die im Gazakrieg eingesetzt werden, liegt dieser Fehlerquotient nach Recherchen von „+972“ bei etwa zehn Prozent. „Die KI bringt auf jeden Fall eine unglaubliche Beschleunigung und damit auch einen Verlust von Kontrolle – aber dazu entscheidet man sich ja auch“, sagt Rehak.
Die Technik senke zudem den Einsatz, den ein Land bei einem Angriff aufs Spiel setzt – und könne damit auch zu einer größeren Leichtfertigkeit führen: „Weder Bombardierungen noch Drohnenangriffe sind politisch wirklich teuer, weil die eigenen Soldaten dabei nicht sterben oder davon erzählen können.“
