German 
English 
thinkers.ai unterstützt das HYBRIS-Projekt
Das Projekt befasst sich mit der Entwicklung automatisierter und KI-basierter Systeme zur Erkennung und Ergreifung von Gegenmaßnahmen bei Desinformationskampagnen im Kontext hybrider Bedrohungen. Thinkers.ai ist stolz darauf, einer von weiteren speziell ausgewählten Partnern zu sein, die bei der Umsetzung dieses Projekts behilflich sind.
Wien, Österreich – HYBRIS befasst sich mit hybriden Bedrohungen, die durch online koordinierte Operationen die Überzeugungen und Einstellungen ausgewählter Zielgruppen beeinflussen, sie zum Handeln mobilisieren und anschließend die physische und digitale Infrastruktur gefährden. Desinformation ist ein wesentlicher Bestandteil hybrider Bedrohungen. Desinformationskampagnen zielen häufig darauf ab, Ängste in der Bevölkerung zu schüren, was unterschiedliche Folgen haben kann. Unabhängig davon, ob es sich bei den Nachrichten um Falschinformationen handelt oder nicht, ist es für Sicherheitsbehörden wichtig zu erkennen, ob Reaktionen auf Nachrichten in sozialen Medien und anderen Nachrichtenkanälen oder möglicherweise in der Folge organisierte Aktionen eine Gefahr für Menschen oder kritische Infrastrukturen darstellen. Erst wenn es darum geht, im Falle der Verbreitung von Desinformation geeignete Maßnahmen zu ergreifen, geht es auch darum, einer bedrohlichen Entwicklung durch die Schaffung und Verbreitung von Gegennarrativen auf der Grundlage von Fakten und vertrauenswürdigen Informationen entgegenzuwirken.
Wir freuen uns, mit all diesen innovativen und hervorragenden Partnern mit unserer Technologie zu diesem so wichtigen, zukunftsweisenden Projekt beitragen zu können.
Dr. Isabell Claus
Co-Geschäftsführerin thinkers.ai
Was sind die Ziele des Projekts und warum wurde es ins Leben gerufen?
Im Projekt geht es darum, bedrohliche Narrative zu erkennen, die Bedrohungslage kritischer Infrastrukturen einzuschätzen und Inhalte im Hinblick auf Desinformation und hybride Bedrohungskategorien zu bewerten. Das Projekt zielt außerdem darauf ab, die Reaktionsfähigkeit, Effektivität und Belastbarkeit zu erhöhen und die Zusammenarbeit zwischen Sicherheitsbehörden unter Berücksichtigung rechtlicher Anforderungen (Rule of Law by Design) und ethischer Aspekte (Ethics by Design) zu intensivieren.
Was ist der Erfolg des Projekts, insbesondere welche Vorteile schafft KI?
Die in HYBRIS vorgesehene Lösung zielt darauf ab, die Widerstandsfähigkeit gegenüber hybriden Bedrohungen und Desinformationskampagnen im Bundesverteidigungsministerium zu erhöhen. Durch den Einsatz von KI im operativen Bereich können große Datenmengen schnell und effizient verarbeitet und analysiert werden, was die Handlungsfähigkeit stärkt und die Reaktionsfähigkeit erhöht. Die Entwicklung eines Governance-Frameworks steigert die sektorübergreifende Zusammenarbeit und den Austausch von Analyseergebnissen und Erfahrungen. Michael Suker, Leiter des Cyber-Dokumentations- und Forschungszentrums am BMLV, hält die zukünftige Weiterentwicklung der Ergebnisse zu einer „Data Intelligence“-Plattform für besonders relevant.
Welche Handlungsfelder der KI-Strategie werden im Projekt adressiert?
- Sicherheit von KI-Systemen
- Sozialer Dialog
- Wissen schaffen und nutzen
- Infrastruktur für KI
- Ethische Grundsätze definieren
Es ist besonders wichtig, auf solche Nachrichtentrends schnell zu reagieren. Deshalb muss mit der inhaltlichen Aufbereitung möglicher Gegendarstellungen bereits in der Entstehungsphase begonnen werden. Eine der größten Herausforderungen besteht darin, einen umfassenden Überblick über die aktuell vorherrschenden Trends zu gewährleisten. Die Schwierigkeit dabei besteht darin, dass Informationen in hoher Geschwindigkeit über eine unüberschaubare Anzahl von Informationskanälen ausgetauscht werden und es unmöglich ist, sich durch manuelle Inspektion einen Überblick zu verschaffen. Darüber hinaus muss die Vertrauenswürdigkeit der Informationen im Rahmen des Vergleichs verschiedener Informationsquellen und -modalitäten beurteilt werden. Für diese Aufgaben besteht ein dringender Bedarf, die Sicherheitsbehörden mit automatisierten und KI-basierten Systemen zur Informationsprüfung und Übersichtserstellung zu unterstützen.
Die Herausforderung für Sicherheitsbehörden liegt in der Bewältigung der Informationsflut, die mit der ständig steigenden Datenlast einhergeht.
Ein übergeordnetes Ziel von HYBRIS ist es, mithilfe künstlicher Intelligenz unstrukturierte Daten so zu strukturieren, dass ein möglichst breiter Überblick über wesentliche Informationen bereitgestellt werden kann. Hierzu sollen Ansätze zum Erkennen relevanter Narrative wie etwa des „Verdachts auf Treibstoffmangel“, der durch die Wirkung von „Stau vor Tankstellen“ eine Gefährdung der kritischen Infrastruktur „Verkehr“ darstellt, erforscht werden. Durch das Erkennen von Narrativen und deren Kontext gewinnen Sicherheitskräfte den nötigen Handlungsspielraum, um entsprechend reagieren zu können. Nach Themen, Narrativen oder Kategorien strukturierte Inhalte sollen automatisiert ausgewertet werden, z. B. im Hinblick auf Desinformation, so dass eine Klassifizierung im Hinblick auf hybride Bedrohungen möglich ist, was den Entscheidungsspielraum der Behörden weiter erweitert.
HYBRIS soll ein Prototyp einer nationalen Data-Intelligence-Plattform sein, mit der Entscheidungsgrundlagen zur Verbesserung der Wirksamkeit und Widerstandsfähigkeit der österreichischen Sicherheitsbehörden geschaffen werden sollen.
Weitere Informationen zum Projekt: https://www.kiras.at/gefoerderte-projekte/detail/hybris
