[Artificial intelligence in medicine-Opportunities and risks from an ethical perspective]
- PMID: 40172646
- DOI: 10.1007/s00347-025-02224-8
[Artificial intelligence in medicine-Opportunities and risks from an ethical perspective]
Abstract
Imaging disciplines, such as ophthalmology, offer a wide range of opportunities for the beneficial use of artificial intelligence (AI). The analysis of images and data by trained algorithms has the potential to facilitate making the diagnosis and patient care and not just in ophthalmology. If AI brings about advances in clinical practice that benefit patients, this is ethically to be welcomed; however, respect for the self-determination of patients and data security must be guaranteed. Traceability and explainability of the algorithms would strengthen trust in automated decision-making and enable ultimate medical responsibility. It should be noted that algorithms are only as good and unbiased as the data used to train them. If the use of AI is likely to lead to a loss of skills on the part of doctors (deskilling), this must be counteracted, for example through improved training. Accompanying medical ethics research is necessary to identify those aspects of the use of AI that require regulation. In principle, care must be taken to ensure that AI serves people and adapts to their needs, not the other way round.
Bildgebende Fächer wie die Augenheilkunde bieten vielfältige Möglichkeiten für den nutzbringenden Einsatz künstlicher Intelligenz (KI). Die Auswertung von Bildern und Daten mittels trainierter Algorithmen besitzt das Potenzial, die Diagnosestellung und die Patientenversorgung nicht nur in der Augenheilkunde zu verbessern. Wenn KI in der klinischen Praxis Fortschritte bewirkt, die den Patienten dienen, ist dies ethisch zu begrüßen. Achtung der Selbstbestimmung der Patienten und Datensicherheit müssen jedoch gewährleistet sein. Nachvollziehbarkeit und Erklärbarkeit der Algorithmen würden das Vertrauen in die automatisierte Entscheidungsfindung stärken und ärztliche Letztverantwortung ermöglichen. Zu beachten ist, dass Algorithmen nur so gut und unvoreingenommen sind wie die Daten, mit denen sie trainiert wurden. Sofern die Nutzung von KI absehbar zum Verlust von Fertigkeiten auf ärztlicher Seite führt („deskilling“), ist dem entgegenzuwirken, etwa durch verbesserte Ausbildung. Medizinethische Begleitforschung ist notwendig, um jene Aspekte des KI-Einsatzes zu identifizieren, die einer Regulierung bedürfen. Grundsätzlich ist darauf zu achten, dass KI dem Menschen dient und sich seinen Bedürfnissen anpasst – nicht umgekehrt.
Keywords: Algorithms; Clinical decision support systems; Medical ethics; Ophthalmology; Principle-based ethics.
© 2025. The Author(s), under exclusive licence to Springer Medizin Verlag GmbH, ein Teil von Springer Nature.
Conflict of interest statement
Einhaltung ethischer Richtlinien. Interessenkonflikt: S. Metan und F. Bruns geben an, dass kein Interessenkonflikt besteht. Für diesen Beitrag wurden von den Autor/-innen keine Studien an Menschen oder Tieren durchgeführt. Für die aufgeführten Studien gelten die jeweils dort angegebenen ethischen Richtlinien.
References
Literatur
-
- BBC DeepMind faces legal action over NHS data use. https://www.bbc.com/news/technology-58761324
-
- Beauchamp TL, Childress JF (2019) Principles of biomedical ethics, 8. Aufl. Oxford University Press, New York
-
- Beck S, Faber M, Gerndt S (2023) Rechtliche Aspekte des Einsatzes von KI und Robotik in Medizin und Pflege. Ethik Med 35(2):247–263 - DOI
Publication types
MeSH terms
LinkOut - more resources
Medical