Die Vereinten Nationen stellen den Entwurf für einen Ethikkodex für Neurotechnologie fertig, der auf der Generalversammlung verabschiedet werden soll

Von The Sociable

Die Organisation der Vereinten Nationen für Erziehung, Wissenschaft und Kultur (UNESCO) hat ihren Entwurf für eine „Empfehlung zur Ethik der Neurotechnologie“ vor der 43. Generalkonferenz im November fertiggestellt.

Nach einer Woche der Überarbeitung auf der zwischenstaatlichen UNESCO-Sitzung zum „Entwurf einer Empfehlung zur Ethik der Neurotechnologie“ einigten sich die Teilnehmer einstimmig auf einen endgültigen Entwurf, der voraussichtlich auf der Generalkonferenz vom 30. Oktober bis 13. November verabschiedet werden wird.

Als vielseitige Technologie hat die Neurotechnologie das Potenzial, Menschen mit Beeinträchtigungen zu heilen, die Gesundheit zu verbessern, übermenschliche Soldaten zu schaffen und die gesamte Menschheit auf positive wie negative Weise zu manipulieren.

„Die Mitgliedstaaten sollten entsprechend ihren spezifischen Gegebenheiten, Regierungsstrukturen und Verfassungsbestimmungen die Ethik der Neurotechnologie im Einklang mit dieser Empfehlung glaubwürdig und transparent fördern.“

UNESCO,Empfehlung zur Ethik der Neurotechnologie, Mai 2025

Aber zunächst einmal: Was ist Neurotechnologie?

Gemäß der Empfehlung „bezieht sich Neurotechnologie derzeit auf Geräte, Systeme und Verfahren – sowohl Hardware als auch Software –, die das Nervensystem direkt messen, darauf zugreifen, es überwachen, analysieren, vorhersagen oder modulieren, um seine Struktur, Aktivität, Funktion (Sprache, Motorik) zu verstehen, zu beeinflussen, wiederherzustellen oder vorherzusagen.“

Übersetzung von „X“: Ihre Gedanken gehören nicht Ihnen. Mit intelligenten Stirnbändern, Hüten, Ohrhörern, Tattoos: „Wir können emotionale Zustände wie Glück, Traurigkeit oder Wut erkennen. Wir können Gesichter, die Sie in Ihrem Kopf sehen, erkennen und entschlüsseln. Ihre PIN-Nummer für Ihr Bankkonto“: Nita Farahany #wef23

„Die ethischen Herausforderungen, die sich durch die Neurotechnologie stellen, sind eng mit den Menschenrechten und der Menschenwürde verbunden und betreffen unter anderem Fragen der Autonomie, der Gedankenfreiheit, der Privatsphäre, der persönlichen Integrität, des Datenschutzes, der Sicherheit, des Missbrauchs, der Gerechtigkeit und der Solidarität.

In diesem Zusammenhang sind internationale und koordinierte Anstrengungen erforderlich, um eine ethische Entwicklung der Neurotechnologie zum Wohle der Menschheit als Mittel zur uneingeschränkten Wahrnehmung der Menschenrechte zu steuern und gleichzeitig ihre potenziellen negativen Auswirkungen auf diese zu mindern.“

UNESCO,Empfehlung zur Ethik der Neurotechnologie, Mai 2025

Neurotechnologie kann dazu verwendet werden, den Stimmlosen buchstäblich eine Stimme zu geben; sie kann immersivere Erfahrungen in Spielen und der kommenden Metaverse ermöglichen, und sie kann zur totalen gesellschaftlichen Kontrolle eingesetzt werden, indem sie sich in unsere Gehirne hackt und Regierungen und Unternehmen ermöglicht, die innersten Vorgänge unserer Gedanken und Gefühle zu überwachen.

Letztendlich fordert die UNESCO, dass alle Mitgliedstaaten die Empfehlung zur Ethik der Neurotechnologie annehmen und dass die UNO mit der Überwachung ihrer Umsetzung beauftragt wird, indem sie ein umfassendes Programm entwickelt, das Folgendes umfasst:

• Eine UNESCO-Methodik zur Bewertung der Bereitschaft (RAM), die den Mitgliedstaaten dabei helfen soll, ihren Status zu bestimmten Zeitpunkten ihres Bereitschaftsprozesses entlang eines Kontinuums von Dimensionen zu ermitteln;
• Eine UNESCO-Methodik zur ethischen Folgenabschätzung (EIA) von Neurotechnologien, die auf strengen wissenschaftlichen Forschungen und internationalen Menschenrechtsnormen basiert, zusammen mit spezifischen Leitlinien für ihre Umsetzung im gesamten Lebenszyklus von Neurotechnologien sowie Instrumenten und Materialien zum Kapazitätsaufbau, um die Mitgliedstaaten bei der Schulung von Regierungsbeamten, politischen Entscheidungsträgern und anderen relevanten Akteuren in dieser Methodik zu unterstützen;
• Eine UNESCO-Methodik zur Ex-ante- und Ex-post-Bewertung der Wirksamkeit und Effizienz von Maßnahmen zur Ethik der Neurotechnologie und von Anreizen im Hinblick auf definierte Ziele;
• Ein UNESCO-Forschungsprogramm, das sich auf die Ethik der Neurotechnologie konzentriert und auf einer Bewertung basiert, die sich auf den aktuellen Stand der technologischen Entwicklungen stützt, um die aktuellen und zukünftigen Auswirkungen der Neurotechnologie auf Gesellschaften und die Umwelt zu bewerten. Diese evidenzbasierte Analyse wird in einer UNESCO-Beobachtungsstelle gesammelt und soll in Form von Forschungsberichten, Daten und Statistiken zu Maßnahmen im Bereich der Ethik der Neurotechnologie als gemeinsamer Wissens- und Informationspool über bewährte Verfahren und Innovationen für alle Mitgliedstaaten und Akteure zur Verfügung gestellt werden. Das Forschungsprogramm sollte die konvergierenden Entwicklungen der Neurotechnologie mit anderen Technologien wie künstlicher Intelligenz und Quantentechnologie berücksichtigen und in Zusammenarbeit mit anderen relevanten UNESCO-Initiativen durchgeführt werden.
• Eine Kooperationsplattform der UNESCO, die einen sinnvollen Austausch fördert und die Zusammenarbeit zwischen den Mitgliedstaaten und allen Akteuren erleichtert, um einen globalen politischen Dialog zu fördern, auch auf Ministerebene im Rahmen eines Globalen Forums zur Ethik neuer Technologien. Zur Unterstützung dieser Bemühungen wird die UNESCO ein Netzwerk von Experten einrichten, in dem alle regionalen Gruppen der UNESCO ausgewogen vertreten sind und das sich mit Neurotechnologie befasst.

Letzte Woche veröffentlichte die RAND Corporation einen Meinungsbeitrag zur Ethik der Neurotechnologie – insbesondere zu Gehirn-Computer-Schnittstellen (BCIs) – und warnte vor den Gefahren für die Gesellschaft, die von der Überwachung des mentalen Zustands von Mitarbeitern am Arbeitsplatz über die Messung der unbewussten Auseinandersetzung mit Werbung bis hin zur gezielten Beeinflussung von Personen auf subbewusster Ebene reichen.

„Die ethischen Implikationen sind enorm. Dieselbe Technologie, die Stimmen wiederherstellt, könnte zu einem Überwachungsinstrument werden, das neuronale Muster liest, um Entscheidungen oder Verhaltensweisen ohne Zustimmung zu beeinflussen. Das Schreckgespenst des “Neuro-Targetings„ – der Manipulation von Menschen unterhalb der Bewusstseinsschwelle – wird nicht länger eine dystopische Fantasie sein, sondern zu einer neuen Realität werden.“

RAND, Silent Speech, Loud Questions: The Dawn of Brain-Computer Communication, Mai 2025

Übersetzung von „X“: Ein dystopischer Blick auf die mögliche Zukunft von hackbaren Menschen: „Die Regierung hat die Gehirnwellen-Daten der Mitarbeiter aus dem letzten Jahr angefordert […] Sie suchen nach Mitverschwörern anhand synchronisierter Gehirnaktivitäten“: #wef23 „Bereit für Transparenz im Gehirn?“-Sitzung

Zu BCIs äußerten sich die Autoren von RAND wie folgt: „Diese Geräte zwingen uns, die Natur des menschlichen Ausdrucks zu überdenken. Wenn Gedanken die Sprache umgehen und als direkte Handlung oder Sprache zum Ausdruck kommen können, wie wird dies das Innenleben der Menschen verändern? Werden Menschen sich selbst zensieren, wenn sie wissen, dass ihre Gedanken erfasst oder analysiert werden können?“

Der Empfehlungsentwurf der UNESCO zur Ethik der Neurotechnologie versucht ebenfalls, die Unterscheidung zwischen Gedanken-, Meinungs- und Ausdrucksfreiheit zu klären.

„Neurotechnologie darf niemals dazu verwendet werden, unzulässigen Einfluss oder Manipulation auszuüben, sei es durch Gewalt, Zwang oder andere Mittel, die die Autonomie und Gedankenfreiheit beeinträchtigen. Dieser Schutz sollte sowohl die interne Verarbeitung von Gedanken als auch deren äußeren Ausdruck umfassen.“

UNESCO,Empfehlung zur Ethik der Neurotechnologie, Mai 2025

Zur Autonomie und Freiheit des Denkens heißt es in der UNESCO-Empfehlung:

• Während des gesamten Lebenszyklus der Neurotechnologie müssen die Rechte auf Autonomie und Gedankenfreiheit geschützt und gefördert werden, und die geistige und körperliche Unversehrtheit sollte vor unerwünschten und schädlichen Eingriffen geschützt werden.
• Autonomie ist nicht nur individuell, sondern auch relational, da sie aus den Interaktionen und der Zugehörigkeit einer Person zur Gemeinschaft entsteht und sich auf diese auswirkt.
• Der Einzelne sollte in der Lage und befähigt sein, während des gesamten Lebenszyklus freie, informierte und freiwillige Entscheidungen über seinen Umgang mit Neurotechnologie zu treffen, im Einklang mit dem Völkerrecht, einschließlich der internationalen Menschenrechtsnormen, ethischen und rechtlichen Standards für die informierte Einwilligung und im Einklang mit anderen internationalen Standards. Es ist wichtig, vor jeder impliziten und expliziten Nötigung zur Nutzung von Neurotechnologie zu schützen. Besondere Aufmerksamkeit sollte Kindern und Jugendlichen sowie Personen in prekären Situationen gewidmet werden.
• Die Einwilligung sollte vorab, frei und informiert erfolgen. Verfahren zur informierten Einwilligung sollten eine aktive Zustimmung erfordern und bejahend, dynamisch, iterativ, umfassend und transparent sein. Sie sollten detaillierte und zugängliche Informationen über die Zwecke, Risiken, Vorteile, Alternativen und möglichen Folgen des Einsatzes von Neurotechnologie in allen Anwendungsbereichen enthalten. Die informierte Einwilligung und Zustimmung sollte an das Alter, die Entscheidungsfähigkeit, die Kultur, die Sprache, den Bildungsstand sowie die geistige und körperliche Verfassung der Person angepasst sein und diese respektieren. Bei Personen mit eingeschränkter oder fehlender Einwilligungsfähigkeit ist die Zustimmung ihrer gesetzlichen Vertreter oder Erziehungsberechtigten einzuholen, und das Wohl der betroffenen Person ist zu wahren. Die informierte Einwilligung muss stets das Recht beinhalten, die Nutzung von Neurotechnologie jederzeit abzulehnen oder zu widerrufen, insbesondere wenn sich die betroffenen Personen in einer Situation der Machtungleichheit befinden.
• Neurotechnologie darf niemals dazu verwendet werden, unzulässigen Einfluss oder Manipulation auszuüben, sei es durch Gewalt, Zwang oder andere Mittel, die die Autonomie und Gedankenfreiheit beeinträchtigen. Dieser Schutz sollte sowohl die interne Verarbeitung von Gedanken als auch deren äußeren Ausdruck umfassen.

„VERBESSERUNG: Der Einsatz von Neurotechnologie zur Verbesserung des Gedächtnisses, der Aufmerksamkeit oder anderer Aspekte der menschlichen geistigen Leistungsfähigkeit über den medizinischen Bedarf hinaus bringt zusätzliche komplexe ethische, soziale und rechtliche Herausforderungen mit sich, die neue Arten von Ungleichheiten in der globalen Welt schaffen können.

“Wenn Neurotechnologie in diesen Kontexten eingesetzt wird, wirft sie entscheidende Fragen hinsichtlich Gerechtigkeit, Einwilligung, individueller und gemeinschaftlicher Autonomie sowie der Natur der Verbesserung des Nervensystems selbst auf.

„Die Mitgliedstaaten sollten sicherstellen, dass alle politischen, rechtlichen und regulatorischen Rahmenbedingungen, die den gesamten Lebenszyklus der Neurotechnologie in diesen Kontexten regeln, soziale Ungleichheiten nicht verschärfen oder zu Diskriminierung führen, den potenziellen Risiken (einschließlich der Reversibilität, Invasivität und Risiken für die Autonomie) Rechnung tragen, die Menschenwürde wahren und den internationalen Rechtsvorschriften, einschließlich der internationalen Menschenrechtsnormen, entsprechen.“

UNESCO,Empfehlung zur Ethik der Neurotechnologie, Mai 2025

Eine weitere Empfehlung betrifft das Konzept des „Nudging“, bei dem Regierungen und Unternehmen unbewusste Gehirnsignale nutzen könnten, um Menschen in bestimmte Richtungen zu lenken und so ihr Verhalten auf einer unterbewussten Ebene zu manipulieren.

Nudging kann von kommerziellen Neuromarketing-Anzeigen bis hin zu politischen Botschaften reichen.

Die UNESCO-Empfehlung besagt, dass die Mitgliedstaaten umfassende Richtlinien und Vorschriften in folgenden Bereichen erlassen sollten:

• Empfehlungssysteme: Die Verwendung von neuronalen Daten und nicht-neuronalen Daten, die Rückschlüsse auf kognitive Zustände in Empfehlungssystemen zu manipulativen oder irreführenden Zwecken ermöglichen, ist ausdrücklich zu verbieten, einschließlich in politischen, medizinischen und kommerziellen Kontexten. Diese Vorschriften sollten verlangen, dass jede Verwendung solcher Daten innerhalb dieser Systeme auf einer ausdrücklichen, informierten Einwilligung der Nutzer beruht.
• Nudging: Regulierung der Verwendung neuronaler und nicht-neuronaler Daten, die Rückschlüsse auf kognitive Zustände ermöglichen, um Nudging zu betreiben – also die Entscheidungen oder Verhaltensweisen von Personen zu beeinflussen, oft ohne deren ausdrückliche Kenntnis und Verständnis. Dies ist besonders kritisch in sensiblen Bereichen wie politischen Botschaften und kommerzieller Werbung, wo ihre Verwendung nicht akzeptiert werden sollte. Bei der Verwendung im Gesundheitswesen sollten die Rahmenbedingungen eine vorherige, freie und informierte Einwilligung für jede Verwendung solcher Daten zur Beeinflussung von Entscheidungen oder Verhaltensweisen, das Recht auf Ablehnung dieser Systeme sowie Transparenz und klare Angaben zum Zeitpunkt der Datenerhebung vorschreiben, wobei die Verwendung der Daten für andere als die ausdrücklich angegebenen Zwecke streng zu beschränken ist.
• Marketing während des Schlafs und im Traum: Die Verwendung von Neurotechnologie, die Personen während des Schlafs beeinflusst oder manipuliert, wie z. B. Marketing während des Schlafs und im Traum, sollte verboten werden. Vorschriften sollten kommerzielle, marketingbezogene oder politische Anwendungen, die sich während des Schlafs an Personen richten und Neurotechnologie oder neuronale Daten und nicht-neuronale Daten verwenden, die Rückschlüsse auf kognitive Zustände ermöglichen, strengstens verbieten. Darüber hinaus sollten robuste Aufsichtsmechanismen vorgeschrieben werden, um sicherzustellen, dass bei der Forschung oder Anwendung solcher Technologien das Wohlergehen, die Privatsphäre und die Autonomie des Einzelnen Vorrang haben, wobei den potenziellen langfristigen psychologischen und kognitiven Auswirkungen der Manipulation von Schlafzuständen besondere Aufmerksamkeit zu widmen ist.
• Neuromarketing: Schutz vor unethischen Zielen und Praktiken im Neuromarketing, unter anderem durch umfassende Offenlegungspflichten, um sicherzustellen, dass alle Neuromarketing-Aktivitäten transparent und mit vorheriger, freiwilliger und informierter Zustimmung der Teilnehmer durchgeführt werden. Dazu gehört auch, dass die Teilnehmer an Neuromarketing-Forschungen oder -Kampagnen vollständig über die Methoden, Risiken und Absichten informiert sind und sich ausdrücklich zur Teilnahme bereit erklären. Die Verwendung, Speicherung und mögliche Wiederverwendung der gesammelten Daten sollte streng reguliert werden.
• Geschlossene Umgebungen: Klare regulatorische Leitlinien für die Gestaltung und Nutzung geschlossener Umgebungen – wie immersive Computergeräte, die Erfahrungen auf der Grundlage von erfassten neuronalen Daten und nicht-neuronalen Daten, die Rückschlüsse auf kognitive Zustände ermöglichen, anpassen. Diese Richtlinien sollten eine klare und zugängliche Offenlegung darüber vorschreiben, wie neuronale Daten und nicht-neuronale Daten, die Rückschlüsse auf kognitive Zustände zulassen, in diesen Umgebungen verwendet werden, und sie sollten eine Echtzeit-Verhaltensänderung oder -manipulation ohne vorherige, freie und informierte Einwilligung verbieten sowie speziell entwickelte Schutzmaßnahmen umfassen, um Missbräuche wie unbefugte Überwachung, manipulative Eingriffe und Praktiken zu verhindern, die Denkweisen, Entscheidungsprozesse und Verhaltensweisen beeinflussen könnten, von politischen bis hin zu kommerziellen Entscheidungen, oder die psychologische und emotionale Schwachstellen in Echtzeit ausnutzen.

„Die Mitgliedstaaten sollten sich mit den tiefgreifenden ethischen und menschenrechtlichen Fragen im Zusammenhang mit Autonomie, Einwilligung, Privatsphäre und Manipulationsmöglichkeiten befassen, die sich durch Neurotechnologien im Zusammenhang mit Empfehlungssystemen, Priming und Nudging, Marketing während des Schlafs und im Traum, Neuromarketing und geschlossenen Regelkreisen ergeben.“

UNESCO,Empfehlung zur Ethik der Neurotechnologie, Mai 2025

Die Empfehlung befasst sich auch mit ethischen Fragen in Bezug auf Kinder, ältere Menschen und Menschen mit Behinderungen und psychischen Problemen.

In Bezug auf die Nutzung und Regulierung von Neurotechnologie durch die Regierung heißt es im Ethikentwurf:

• Die Mitgliedstaaten sollten sicherstellen, dass für Neurotechnologien, die sie entwickeln, entwerfen, einsetzen, verwenden, verkaufen, betreiben oder beschaffen, eine ethische und menschenrechtsbezogene Sorgfaltsprüfung, einschließlich regelmäßiger, umfassender Menschenrechtsfolgenabschätzungen, durchgeführt wird, um mögliche nachteilige Auswirkungen auf die Menschenrechte zu verhindern oder zu mindern.
• Die Mitgliedstaaten sollten sicherstellen, dass jede Nutzung von Neurotechnologie im Justizwesen, einschließlich ihrer Berücksichtigung durch die Justiz, auf wissenschaftlichen Erkenntnissen beruht und im Einklang mit den Menschenrechten und der Rechtsstaatlichkeit ethisch umgesetzt wird. In diesem Zusammenhang sollten die Mitgliedstaaten ein ordnungsgemäßes Verfahren und ein faires Gerichtsverfahren, einschließlich der Unschuldsvermutung, gewährleisten und sicherstellen, dass Personen nicht gezwungen werden, gegen sich selbst auszusagen oder ein Geständnis abzulegen. Insbesondere sollte Neurotechnologie nicht für Zwecke wie nicht einvernehmliche Verhöre im Rahmen der Strafverfolgung eingesetzt werden.
• Neurotechnologie sollte nicht zur sozialen Kontrolle, zu Versuchen der Zwangskonformität aufgrund persönlicher Überzeugungen oder Gedanken, politischer oder anderer Meinungen, des Geschlechts oder zur Überwachung des psychischen Zustands sowie zu Folter oder grausamer, unmenschlicher oder erniedrigender Behandlung oder Bestrafung eingesetzt werden.
• Die Regierungen sollten sicherstellen, dass Neurotechnologie verantwortungsbewusst und unter Achtung der Menschenrechte entwickelt und eingesetzt wird, wobei robuste unabhängige Kontrollmechanismen zur Förderung der Einhaltung dieser Beschränkungen und zum Schutz der psychischen Privatsphäre und der Gedankenfreiheit aller Menschen vorgesehen werden sollten.
• Die Mitgliedstaaten sollten Transparenz und Rechenschaftspflicht bei der Unterstützung, Überwachung und Regulierung von Neurotechnologie gewährleisten, insbesondere bei öffentlich finanzierten Initiativen wie Programmen zur Erforschung und Entwicklung des Gehirns.
• Die Mitgliedstaaten sollten einen umfassenden Ansatz für regulatorische und politische Maßnahmen zum Schutz vor menschenrechtsbezogenen Schäden durch Neurotechnologie verfolgen, die vom privaten Sektor entwickelt, vermarktet, betrieben oder genutzt wird.
• Die Mitgliedstaaten sollten die Schaffung umfassender Anreizstrukturen wie Steueranreize, Zuschüsse und Auszeichnungen in Betracht ziehen, um partizipative und transparente Innovationsökosysteme für die Entwicklung von Neurotechnologie zu fördern und zu ermöglichen, die Kapazitäten öffentlicher Forschungseinrichtungen zu stärken, öffentlich-private Partnerschaften zur Förderung öffentlicher Forschungsziele zu unterstützen und zum gesellschaftlichen Nutzen beizutragen.
• Die Mitgliedstaaten sollten weltweit einen gerechten Zugang zu evidenzbasierten, sicheren und zuverlässigen Neurotechnologien fördern, die Gesundheit und Wohlbefinden fördern.
• Die Mitgliedstaaten sollten Strategien zum Schutz geistigen Eigentums in Betracht ziehen, die Anreize für Innovation schaffen und offene Wissenschaft sowie den Zugang zu und die Verbreitung von Neurotechnologien und die Teilhabe an deren Vorteilen fördern. Die Auswirkungen von Strategien zum Schutz geistigen Eigentums auf den Neurotechnologiesektor sollten kontinuierlich überwacht werden.

Der endgültige Text der Empfehlung wird im November auf der 43. Tagung der Generalkonferenz zur Annahme vorgelegt.

Nach ihrer Annahme wird die Empfehlung laut UNESCO „das erste globale normative Instrument in diesem äußerst wichtigen Bereich“ sein.