Yao Shunyu, Chefwissenschaftler für KI bei Tencent, warnte am 7. November 2026 bei einem Wissenschaftssymposium in Hongkong, KI-Modelle könnten eine biologische Fähigkeitsschwelle erreichen, ab der sie Schaden anrichten können. Die South China Morning Post berichtete über die Äußerung. Sie beschreibt ein mögliches künftiges Risiko.

Was die Warnung umfasst

Die Warnung betrifft den möglichen doppelten Nutzen von KI in der Biologie: Sie könnte die Wirkstoffsuche beschleunigen, zugleich aber auch für schädliche Zwecke missbraucht werden. Welche Rolle KI dabei spielen könnte, hängt laut einem Rahmenwerk des Center for Security and Emerging Technology (CSET) vom eingesetzten Werkzeug und vom Wissen der Nutzenden ab.

Chatbots und biologische Designwerkzeuge

Das CSET-Rahmenwerk aus dem Herbst 2023 unterscheidet allgemeine Chatbots von spezialisierten biologischen Designwerkzeugen. Chatbots können die Suche und Zusammenfassung von Informationen erleichtern. Biologische Designwerkzeuge können Fachleute dabei unterstützen, Vorhersagen zu biologischen Molekülen oder Systemen zu erstellen und mögliche Ansätze zu priorisieren. Für ihren erfolgreichen Einsatz waren laut CSET in der damaligen Analyse wissenschaftliche und Programmierkenntnisse nötig. Zum CSET-Rahmenwerk

Eine digitale Vorhersage allein hat noch keine biologische Wirkung. Um ihre Folgen in der realen Welt zu beurteilen, müssen Vorhersagen physisch umgesetzt und geprüft werden. Außerdem können die Ergebnisse je nach biologischem Kontext unterschiedlich ausfallen. CSET hält auch fest, dass biologischer Missbrauch ohne KI möglich ist.

Für die Risikoeinschätzung zählen sowohl das Werkzeug und das Wissen der Nutzenden als auch die Frage, ob sich eine digitale Vorhersage in der biologischen Praxis bewährt.

Was eine GPT-4-Bewertung aussagt

In einer 2025 veröffentlichten Analyse berichtete das Centre for International Governance Innovation (CIGI), ein von OpenAI zusammengestelltes Team habe bei den untersuchten Aufgaben mit GPT-4 nur einen marginalen Vorteil gegenüber gewöhnlichen Internetsuchen festgestellt. Das Ergebnis bezieht sich auf diese Aufgaben und erlaubt keine Verallgemeinerung auf alle Modelle oder Einsatzbereiche.