AI-Driven Insurance Premiums
Lies und sprich
Read the text aloud. Click any word to hear it spoken.
Situation
A consumer protection agency critiques the use of social media data by algorithms to determine life insurance costs.
Deutsch
Die aktuelle Auseinandersetzung über die automatisierte Analyse privater Social-Media-Daten durch Versicherungsalgorithmen muss dringend einer eingehenden rechtlichen Prüfung unterzogen werden. Die dreiste Weigerung der Konzerne, ihre mathematischen Modelle gegenüber der Öffentlichkeit offenzulegen, sollte vom Gesetzgeber als grobe Intransparenz eingestuft werden. Durch die digitale Spurensuche im Netz können Profile erstellt werden, die künftig über die Gewährung oder Ablehnung von Lebensversicherungen entscheiden könnten. Selbst bei der Veräußerung von sensiblen Gesundheitsdaten darf die informationelle Selbstbestimmung nicht durch undurchsichtige Unternehmensführung verletzt werden. Laut aktueller Rechtsprechung des Oberlandesgerichts muss die Nachvollziehbarkeit automatisierter Bescheide stets gewährleistet sein. Es kann nicht hingenommen werden, dass harmlose Begriffe im Wortlaut privater Nachrichten in einen Kontext mit Terrorismus oder Faschismus gerückt werden, nur weil ein Algorithmus Fehlinterpretationen vornimmt. Eine einstweilige Anordnung zur Unterlassung solcher diskriminierenden Praktiken muss unverzüglich bewerkstelligt werden können. In diesem Zusammenhang muss eine Verleumdung des Kunden durch bloße statistische Wahrscheinlichkeiten kategorisch ausgeschlossen werden. Im Falle einer fehlerhaften Risikoeinstufung muss dem Versicherten das Recht eingeräumt werden, sich der Entscheidung wirksam zu widersetzen. Sollten Daten unrechtmäßig für die Profilbildung beschlagnahmt worden sein, müssen diese unter Aufsicht einer unabhängigen Commission sofort gelöscht werden. Die finanzielle Stabilität einer Versicherung durch Eigenkapital oder Abschreibung darf niemals als Rechtfertigung für den Missbrauch privater Informationen dienen, während das Zepter der Datenhoheit beim Bürger bleiben muss. Letztlich sollte sogar der Bundespräsident die Bedeutung des Datenschutzes als fundamentales Gut hervorheben, um Vergleiche mit der Totalüberwachung im Nationalsozialismus gar nicht erst aufkommen zu lassen. Werden Unschuldige durch fehlerhafte Codes wie Kriminelle behandelt, die mit Kokain handeln, ist die Grenze der Rechtsstaatlichkeit definitiv überschritten.
English
The current debate regarding the automated analysis of private social media data by insurance algorithms must urgently be subjected to a detailed legal examination. The corporations' audacious refusal to disclose their mathematical models to the public should be classified by the legislature as gross lack of transparency. Through digital trace-hunting on the web, profiles can be created that could decide on the granting or refusal of life insurance in the future. Even during the sale of sensitive health data, informational self-determination must not be violated by opaque corporate management. According to current case law from the Higher Regional Court, the traceability of automated notices must always be guaranteed. It cannot be accepted that harmless terms in the wording of private messages are placed in a context with terrorism or fascism just because an algorithm makes misinterpretations. An interim injunction to cease such discriminatory practices must be able to be accomplished immediately. In this context, defamation of the customer through mere statistical probabilities must be categorically excluded. In the event of an incorrect risk classification, the insured person must be granted the right to effectively oppose the decision. If data has been unlawfully seized for profiling, it must be deleted immediately under the supervision of an independent commission. The financial stability of an insurance company through equity or depreciation must never serve as a justification for the misuse of private information, while the scepter of data sovereignty must remain with the citizen. Ultimately, even the Federal President should emphasize the importance of data protection as a fundamental asset, in order to prevent comparisons with total surveillance during National Socialism from even arising. If innocent people are treated by faulty codes like criminals dealing in cocaine, the limit of the rule of law has definitely been crossed.