Qualys, Inc. (NASDAQ: QLYS), ein führender Anbieter von Cloud-basierten IT-, Sicherheits- und Compliance-Lösungen, gibt wichtige Updates für seine TotalAI-Lösung bekannt, mit denen die gesamte MLOps-Pipeline von Unternehmen von der Entwicklung bis zur Bereitstellung geschützt wird. Unternehmen können ihre Large Language Models (LLMs) nun schnell testen - auch während der Entwicklungsschleifen (Dev-Cycles) - und profitieren dabei von einem stärkeren Schutz vor mehr Angriffen und On-Premises-Scans, die von einem internen LLM-Scanner unterstützt werden.

Angesichts der rasanten Verbreitung von KI bewegen sich Unternehmen in einem beispiellosen Tempo - oft ohne die grundlegenden Sicherheitskontrollen zu implementieren, die für das Risikomanagement erforderlich sind: 72 Prozent der CISOs befürchten, dass generative KI-Lösungen zu Sicherheitsverletzungen in ihren Unternehmen führen könnten. Unternehmen benötigen eine bessere Lösung, um die Lücke zwischen Innovation und sicherer Implementierung zu schließen.

“Da KI zu einer Kernkomponente der Geschäftsinnovation wird, kann Sicherheit nicht länger eine zweitranginge Überlegung sein”, so Tyler Shields, Principal Analyst bei der Enterprise Strategy Group. “Qualys TotalAI stellt sicher, dass nur vertrauenswürdige, geprüfte Modelle in die Produktion gelangen, was sowohl Agilität als auch Sicherheit bei der KI-Nutzung in Unternehmen ermöglicht. Diese Sicherheit hilft Unternehmen, ihre Innovationsziele zu erreichen und gleichzeitig ihre Risiken zu managen.”

Qualys TotalAI wurde speziell für die besonderen Herausforderungen von KI-Risiken entwickelt. Die Funktionen reichen über die grundlegende Bewertung der Infrastruktur hinaus: Modelle werden direkt auf Jailbreak-Schwachstellen, Verzerrungen, Offenlegung sensibler Informationen und kritische Risiken getestet, die den OWASP Top 10 für LLMs zugeordnet sind. Mit einem risikoorientierten Ansatz findet TotalAI nicht nur KI-spezifische Schwachstellen, sondern hilft Teams auch, diese schneller zu beheben, die Betriebsstabilität zu schützen und das Vertrauen in die Marke zu erhalten.

TotalAI bietet:

• Automatische Priorisierung von KI-Sicherheitsrisiken: Die Ergebnisse werden mit MITRE ATLAS realen Angriffstaktiken zugeordnet und über die Qualys TruRisk™ Scoring Engine automatisch priorisiert, sodass Sicherheits-, IT- und MLOps-Teams sich auf die geschäftskritischsten Risiken konzentrieren können.
• Schnellere und sicherere Entwicklung von KI-Anwendungen: Mit dem neuen internen LLM-Scanner für den lokalen Einsatz können Unternehmen nun umfassende Sicherheitstests ihrer LLM-Modelle während der Entwicklung, Bereitstellung und Implementierung integrieren – ohne dass die Modelle jemals nach außen gelangen. Dieser Shift-Left-Ansatz, bei dem die Sicherheit und das Testen von KI-gestützten Anwendungen in bestehende CI/CD-Workflows integriert werden, stärkt sowohl die Agilität als auch die Sicherheitslage und stellt gleichzeitig sicher, dass sensible Modelle hinter den Firewalls des Unternehmens geschützt bleiben.
• Verbesserter Schutz vor neuen KI-Bedrohungen: TotalAI wurde erweitert und erkennt nun 40 verschiedene Angriffsszenarien, darunter fortgeschrittene Jailbreak-Techniken, Prompt-Injektionen und -Manipulationen, mehrsprachige Exploits und Bias-Verstärkung. Die erweiterten Szenarien simulieren reale Angriffstaktiken und stärken die Widerstandsfähigkeit der Modelle gegen Ausnutzung, sodass Angreifer die Ergebnisse nicht manipulieren oder Sicherheitsvorkehrungen umgehen können.
• Schutz vor cross-modalen Exploits mit multimodaler Bedrohungsabdeckung: Die verbesserte multimodale Erkennung von TotalAI identifiziert Prompts oder Störungen, die in Bild-, Audio- und Videodateien versteckt sind und dazu dienen, LLM-Ausgaben zu manipulieren - und hilft Unternehmen so, sich vor cross-modalen Exploits zu schützen.

Abbildung 1: Qualys TotalAI Dashboard | Copyright Qualys, Inc.

“KI verändert die Art und Weise, wie Unternehmen arbeiten, aber mit dieser Innovation gehen auch neue und komplexe Risiken einher”, so Sumedh Thakar, CEO von Qualys. “TotalAI bietet die Transparenz, Intelligenz und Automatisierung, die erforderlich sind, um agil und sicher zu bleiben und KI-Workloads in jeder Phase zu schützen - von der Entwicklung bis zur Bereitstellung. Wir sind stolz darauf, mit der branchenweit umfassendsten Lösung eine Vorreiterrolle einzunehmen und Unternehmen dabei zu unterstützen, innovativ und selbstbewusst zu handeln und gleichzeitig neuen KI-Bedrohungen einen Schritt voraus zu sein.”