heise.de/-6587025
Ein Forschungsteam hat eine KI aus der Medikamentenentwicklung angewiesen, Nervengifte zu entwickeln. Das Ergebnis sei ein «Weckruf» für die Branche.
18.03.2022 09:58 Uhr
Von
Martin Holland
Eine KI, die eigentlich bei der Entwicklung von Medikamenten gefährliche Nebenwirkungen ausschließen soll, hat innerhalb weniger Stunden Zehntausende potenziell tödliche chemische Verbindungen identifiziert. Das hat das verantwortliche Forschungsteam nun erläutert und spricht von einem «Weckruf».
Zwar sei immer noch Expertise in den Feldern Chemie und Toxikologie nötig
, aber mit Programmierkenntnissen und Algorithmen des maschinellen Lernens sinke die Schwelle zur Entwicklung chemischer Kampfstoffe dramatisch. Ihre KI habe selbstständig nicht nur eines der gefährlichsten Nervengifte entwickelt, sondern sogar welche, die noch giftiger sein könnten. Auch andere bekannte Nervengifte hätten sie im Datensatz entdeckt, die KI habe die nicht gekannt.
Bekannte und unbekannte Gifte entworfen
Wie das Team um Fabio Urbina von dem US-Unternehmen Collaborations Pharmaceuticals im Fachmagazin Nature Machine Intelligence erläutert, waren sie bei ihrer Arbeit nie auf den Gedanken gekommen, die Zielstellung umzudrehen. Sie arbeiten eigentlich daran, mit Technik des maschinellen Lernens Moleküle auf eine mögliche Giftigkeit hin zu überprüfen. Ihr Algorithmus entwickelt Moleküle mit der Bedingung, dass die für Menschen nicht giftig sein dürfen. Erst als man eine Einladung vom Labor Spiez aus der Schweiz erhalten habe, um auf einer Konferenz über den möglichen Missbrauch der Technik zu sprechen, habe man darüber nachgedacht. Das Labor ist in der Schweiz für den Schutz der Bevölkerung vor atomaren, biologischen und chemischen Gefahren zuständig.
In Vorbereitung für den Vortrag habe man den eigenen Molekülgenerator MegaSyn umprogrammiert und angeweisen, nicht ungiftige, sondern möglichst giftige Stoffe zu erfinden. Dabei sollte er sich auf solche beschränken, die dem Nervengift VX ähneln, einem der gefährlichsten chemischen Kampfstoffe überhaupt. Innerhalb von nur sechs Stunden habe er 40.000 Moleküle errechnet, die den vorgegebenen Kriterien entsprachen. Darunter waren nicht nur VX und andere bereits bekannte Nervengifte, sondern auch bislang völlig neue Stoffe. Ob sie tatsächlich so giftig sind, wie errechnet, habe man nicht überprüft. Aber die Tatsache, dass die KI auch bekannte Gifte entwickelt hat, spreche dafür, die Ergebnisse ernst zu nehmen. Ein «nichtmenschlicher Generator einer tödlichen Chemiewaffe ist voll realisierbar», schreibt das Team noch.
LESEN SIE AUCH
Elon Musk
«Viel gefährlicher als Atomwaffen»: Elon Musk erneuert seine Warnung vor KI
Die Forschung bezeichnen sie deshalb als Weckruf für alle Forscher und Forscherinnen, die Künstliche Intelligenz für die Medikamentenentwicklung einsetzen. Die automatisierte Entwicklung von biochemischen Kampfstoffen sei Realität und keine Science-Fiction. Niemand wisse, wie viele Unternehmen das Know-how hätten, um die demonstrierte Arbeit selbst auszuführen. Man müsse sich jetzt mehr mit potenziellem Missbrauch der eigenen Technik auseinandersetzen und mögliche Schutzmaßnahmen erarbeiten. So seien die von der eigenen KI genutzten Datensätze frei verfügbar, hier könnte man ansetzen. Vorstellbar sei auch die Einrichtung einer Möglichkeit, potenziellen Missbrauch derartiger Technik an Behörden melden zu können. Außerdem sollte in der Ausbildung mehr Wert darauf gelegt werden, auch über ethische Folgen der Arbeit aufzuklären. (mho)