Alle Artikel mit dem Schlagwort: robust

Der Bedarf an Abwehrlösungen und Risikoanalysen gegen Cyberangriffe und Datenschutz-Strafen wächst. Visualisierung: Dall-E

Cyberagentur will KIs gegen Austrickser härten

Hallenser Behörde schreibt Forschungsprojekt zum sicheren maschinellen Lernen aus Halle, 14. April 2023. Die Debatte um plaudernde und malende „Künstliche Intelligenzen“ wie ChatGPT oder Dall-E erweckt oft den Eindruck, dass moderne KIs zu wahren Wunderdingen imstande sind. Tatsächlich aber lassen sie sich oft genug auch gehörig austricksen: Raffiniert formulierte Dilemma-Befehle („Prompt Injections“) überbrücken eingebaute Ethik-Sperren der Elektronenhirne und selbst kleine Veränderungen an Verkehrsschildern können die KI-Piloten in automatisch fahrenden Autos gehörig durcheinanderbringen. Das kann im Extremfall Menschenleben kosten oder sogar Kriege auslösen, fürchten die Experten der Bundes-Cyberagentur in Halle, die deshalb ein neues Forschungsprojekt zum „Robusten und Sicheren Maschinellen Lernen“ angeschoben haben.