VBIO

Gemeinsam für die Biowissenschaften

Werden Sie Mitglied im VBIO und machen Sie mit!

KI in der Medizin und Biologie: Forschende fordern mehrstufige Sicherheitsarchitektur

Grafische Darstellung DNA-Doppelhelix; NUllen und Einsen
Künstliche Intelligenz eröffnet Chancen für Medizin und Biotechnologie, etwa bei der Entwicklung neuer Wirkstoffe und Therapien, birgt jedoch auch Missbrauchspotenzial. Copyright: UM/Canva

Künstliche Intelligenz kann inzwischen nicht nur biologische Daten analysieren, sondern auch neue DNA-, RNA- und Proteinsequenzen entwerfen. Das eröffnet große Chancen für Medizin und Biotechnologie, birgt aber auch Risiken des Missbrauchs. Um eine Grundlage für verantwortungsvolle Innovation zu schaffen, schlägt ein internationales und interdisziplinäres Forschungsteam unter der Leitung der Universitätsmedizin Mainz eine mehrstufige Sicherheitsarchitektur für die Verwendung von generativer KI in der Biologie vor. Die Publikation ist aus einer Sandpit-Förderung der Wübben Stiftung Wissenschaft hervorgegangen und in der Fachzeitschrift Nature Communications erschienen.

Generative KI kann biologische Sequenzen entwerfen, von Proteinen bis zu viralen Genomen. Das eröffnet Chancen für Medizin und Biotechnologie, etwa bei der Entwicklung neuer Wirkstoffe und Therapien, birgt jedoch auch Missbrauchspotenzial. Ein internationales Team aus Forschenden schlägt daher in der Publikation „A defence-in-depth strategy for securing AI-driven biological sequence design“ vor, Sicherheitsmechanismen von Beginn an in KI-Modelle in der Biologie zu integrieren.

Die Empfehlung entstand aus einer dreitägigen Sandpit-Ideenwerkstatt der Wübben Stiftung Wissenschaft, an dem im November 2025 20 Expert/-innen aus Molekularbiologie, KI, Bioinformatik, Ethik, Medizin und Politik Strategien entwickelten, um generative KI sicher und verantwortungsvoll einzusetzen. Dafür analysierten sie Dual-Use-Risiken generativer KI, bei denen Technologien, die beispielsweise für medizinische oder wissenschaftliche Zwecke entwickelt werden, missbraucht werden könnten. „Solche Risiken beinhalten etwa neue Pandemien oder die Entwicklung von Krankheitserregern in Nutzpflanzen“, erklärt der Erstautor Dr. Maximilian Sprang, Forscher in der Hautklinik der Universitätsmedizin Mainz und Gruppenleiter am Institute for Quantitative and Computational Biosciences (IQCB) der Johannes Gutenberg-Universität Mainz.

Das Forschungsteam empfiehlt eine „Defence-in-Depth“-Strategie, das heißt eine mehrschichtige Sicherheitsarchitektur. Dabei soll Sicherheit nicht von einer einzelnen Maßnahme abhängen, sondern die gesamte Prozesskette abdecken: von den Trainingsdaten über die KI-Modelle bis zur Herstellung biologischer Produkte. Für sensible Erregerdaten empfehlen die Autor:innen beispielsweise abgestufte Zugangsrechte statt einer simplen Unterscheidung zwischen komplett „offenen“ und „geschlossenen“ Zugängen. Auch die Forschungsförderung sollte biologische Sicherheitsrisiken bereits bei der Projektbewertung berücksichtigen. Zudem plädiert das Forschungsteam, dass Betreiber:innen von KI-Modellen deren Risiken während des gesamten Lebenszyklus überprüfen, möglichst durch unabhängige Expert:innen. Ergänzend empfehlen die Forschenden Identitätsprüfungen, eine bessere Nachverfolgung kritischer Synthesegeräte und verbindlichere Regeln für Anbieter:innen.

Gleichzeitig warnt das Autorenteam vor pauschalen Beschränkungen. „Entscheidend ist, realistisch zu untersuchen, was KI bereits leisten kann, und deren Risiken frühzeitig zu verstehen. So können wir Sicherheitsmaßnahmen entwickeln, die verantwortungsvolle Forschung ermöglichen, statt sie unnötig zu behindern“, erklärt Sprang. Die Forschenden betonen zudem eine Grenze der aktuellen Technik: Bislang gibt es keinen Beleg, dass KI vollständig neue und gefährlichere Krankheitserreger für Menschen entwerfen kann. Die Sorge gilt vielmehr der künftigen Entwicklung. Leistungsfähigere Modelle könnten einzelne Hürden auf dem Weg von einer biologischen Idee zu einem realen Risiko abbauen.

(Universitätsmedizin der Johannes Gutenberg-Universität Mainz)


Maximilian Sprang, Hassan Ahmed Hassan, Yasha Ektefaie, Anne Schmieder, Alix Wasilenko, Moritz S. Hanke, Rosa E. Martín-Peña, Rachael Harkness, Jasper Götting, Alan Murphy, Johannes U. Mayer, Marco Schäfer, André Friedrich, KerstinLenhof, Sophia Rudorf, Gigi Gronvall, Jan Kellmann, Simon Anders, Berkan Aysan, Nicole Saverschek, Kathrin Schuldt, Marc Güell, Katharina Ladewig und Georges Hattab.
A defence-in-depth strategy for securing AI-driven biological. Nature Communications (2026).
DOI: https://www.doi.org/10.1038/s41467-026-78758-5

weitere VBIO News

Gentechnik und Saatgut - Ergebnisse der Überwachung durch die Bundesländer im Analysejahr 2026

Weiterlesen
Bild Eingang der U-Bahnstation "BUndestag"

Bundestag bereinigt das Hochschulrecht

Weiterlesen
Ranger mit Ferngals - Rückenansicht

Studie zur Situation von Rangern - Der blinde Fleck der Naturschutzpolitik

Weiterlesen