1.
Autonomes Handeln
intelligenter Maschinen
Internet der Dinge und Industrie 4.0
Arbeitskreis EDV & Recht, Köln, 2.12.2015

2.
Überblick
2.12.2015 Kremer: Autonomes Handeln intelligenter Maschinen 2

3.
Wer?
• Sascha Kremer
• „Überzeugungstäter“
• Fachanwalt für IT-Recht, Datenschutzbeauftragter, Datenschutzauditor
• Lehrbeauftragter, Dozent, Autor
• „Surfer“ (Digitalisierung) und „Inselbewohner“ (Vinyl)
• twitter.com/saschakremer, slideshare.net/saschakremer
• facebook.com/lpkhb, loginpartners.de
2.12.2015 Kremer: Autonomes Handeln intelligenter Maschinen 3

4.
Was?
2.12.2015 Kremer: Autonomes Handeln intelligenter Maschinen 4
Industrie 4.0
1.0 = Mechanisierung
2.0 = Elektrifizierung
3.0 = Digitalisierung
4.0 = Vernetzung

5.
Fragen?
• Willenserklärungen?
• Haftung autonomer Systeme/für autonome Systeme?
• Leistungsgegenstand Interaktionsfähigkeit?
• Telekommunikation?
• (Personenbezogene) Daten und Zuordnung?
2.12.2015 Kremer: Autonomes Handeln intelligenter Maschinen 5

6.
Willenserklärungen?
2.12.2015 Kremer: Autonomes Handeln intelligenter Maschinen 6

7.
Willenserklärungen
• BGB: nicht definiert
• Willenserklärung verlangt Geschäftsfähigkeit, § 105 I BGB
• Geschäftsfähigkeit verlangt Volljährigkeit, § 104, 106 BGB
• Sonderfall: beschränkte Geschäftsfähigkeit, §§ 106 ff. BGB
• Beachte: Geschäftsfähigkeit ≠ Rechtsfähigkeit
2.12.2015 Kremer: Autonomes Handeln intelligenter Maschinen 7

8.
Willenserklärungen
• Klassisches Verständnis differenziert:
• Subjektiver Erklärungstatbestand
• Handlungsbewusstsein
• Erklärungsbewusstsein
• Geschäftsführungswille
• Objektiver Erklärungstatbestand
• Rechtsbindungswille (oder dessen Erkennbarkeit)
2.12.2015 Kremer: Autonomes Handeln intelligenter Maschinen 8

9.
Willenserklärungen
• Klassisches Verständnis „Computererklärung“:
• Keine Verantwortlichkeit der Maschine
• Verantwortlichkeit des Entwicklers = Geschäftsfähigen
• BGH, Urt. v. 26.1.2005 – VIII ZR 79/04:
• „Die Verfälschung des ursprünglich richtig Erklärten auf dem Weg zum
Empfänger durch eine unerkannt fehlerhafte Software ist als Irrtum in der
Erklärungshandlung [der den Programmablauf bestimmenden Person]
anzusehen.“
2.12.2015 Kremer: Autonomes Handeln intelligenter Maschinen 9

10.
Willenserklärungen
• Autonomes Handeln von Maschinen
• Autonomie-Grad 10: „The computer decides everything, acts
autonomously, ignoring the human“
• Autonome Systeme verfolgen eigene Interessen (gegen Entwickler)
• Entwickler beherrscht Programmablauf nicht (mehr)
• Subjektiver Erklärungstatbestand entfällt
2.12.2015 Kremer: Autonomes Handeln intelligenter Maschinen 10

11.
Willenserklärungen
• Autonomes System = kein Erklärungstatbestand
• Keine Willenserklärung = keine Rechtsgeschäfte?
• Fiktion einer Willenserklärung durch (vorherigen) Vertrag?
• Vereinbarung der Parteien über Erklärungsfähigkeit autonomer Systeme
• Beachte: Relativität der Vereinbarung = Bindung nur beteiligter Parteien
• Ersetzung Willenserklärung durch Risikozuordnung?
• mit BGB unvereinbar = §§ 104 ff. BGB analog?
2.12.2015 Kremer: Autonomes Handeln intelligenter Maschinen 11

12.
Haftung?
2.12.2015 Kremer: Autonomes Handeln intelligenter Maschinen 12

13.
Haftung
• Beispiel: autonomes Fahren im Smart Car
• § 7 I StVG: „Wird bei dem Betrieb eines [Kfz ...] ein Mensch getötet
[...] oder eine Sache beschädigt, so ist der Halter verpflichtet, dem
Verletzten den daraus entstehenden Schaden zu ersetzen.“
• § 7 II StVG: „Die Ersatzpflicht ist ausgeschlossen, wenn der Unfall
durch höhere Gewalt verursacht wird.“
• Fehlfunktion autonomes System = höhere Gewalt?
2.12.2015 Kremer: Autonomes Handeln intelligenter Maschinen 13

14.
Haftung
• Beispiel: autonomes Fahren im Smart Car
• § 18 I StVG: „In den Fällen des § 7 [I] ist auch der Führer des
Kraftfahrzeugs [...] zum Ersatz des Schadens [...] verpflichtet. Die
Ersatzpflicht ist ausgeschlossen, wenn der Schaden nicht durch ein
Verschulden des Führers verursacht ist.“
• Fehlfunktion autonomes System = kein Verschulden Führer Kfz?
2.12.2015 Kremer: Autonomes Handeln intelligenter Maschinen 14

15.
Haftung
• Vertragliche Haftung
• § 280 I 1 BGB: Pflichtverletzung beim Handeln autonomer Systeme?
• § 280 I 2 BGB: Vertreten müssen der Pflichtverletzung?
• § 241 II BGB: Schutzpflichten bei autonomen Systemen?
• § 311 II BGB: Vorvertragliche Aufklärungspflichten?
• § 434 I, 633 II BGB: Sachmangel bei Fehlfunktion?
• Darlegungs- und Beweislast? Umkehrung? Sekundäre Beweislast?
2.12.2015 Kremer: Autonomes Handeln intelligenter Maschinen 15

16.
Haftung
• Gesetzliche Haftung (I)
• § 823 I BGB: Deliktische Haftung (Verschulden)?
• § 823 II BGB: Schutzgesetzverletzung?
• § 831 I BGB: Haftung für Verrichtungsgehilfen?
• Hersteller autonomer Systeme als „zur Verrichtung Bestellter“?
• Auswahlverschulden?
• Ergänzend: Organisationsverschulden, § 823 I BGB?
2.12.2015 Kremer: Autonomes Handeln intelligenter Maschinen 16

17.
Haftung
• Gesetzliche Haftung (II)
• § 830 BGB: Mittäter und Beteiligte?
• § 830 I S. 2 BGB: „Das Gleiche gilt, wenn sich nicht ermitteln lässt, wer von
mehreren Beteiligten den Schaden durch seine Handlung verursacht hat.“
• Hersteller autonomer Systeme als Beteiligter = Gesamthaftung?
2.12.2015 Kremer: Autonomes Handeln intelligenter Maschinen 17

18.
Haftung
• Gesetzliche Haftung (III)
• § 833 BGB: Tierhalterhaftung analog?
• § 836 BGB: Grundstücksbesitzer analog?
• Fehlerhafte Errichtung = Fehlerhafte Entwicklung autonomer Systeme?
• Mangelhafte Unterhaltung = Nichtvornahme erforderlicher Updates?
• Abwendung durch Beobachtung im Verkehr erforderlicher Sorgfalt?
• § 1 I Produkthaftungsgesetz?
2.12.2015 Kremer: Autonomes Handeln intelligenter Maschinen 18

19.
Haftung
• Haftungsgegner
• Vertragsparteien
• Anwender autonomer Systeme
• Hersteller autonomer Systeme, Zwischenhändler/OEM
• Softwarezulieferer
• Datenzulieferer
2.12.2015 Kremer: Autonomes Handeln intelligenter Maschinen 19

20.
Haftung
• Versicherbarkeit Haftungsrisiken autonomer Systeme?
• Deckung durch (freiwillige) Vermögensschadenshaftpflicht?
• Deckung durch (zwingende) Haftpflichtversicherung?
• Deckung durch Berufshaftpflichtversicherung?
• Beispiele:
• Automated legal decision making
• Automated medical decision making
2.12.2015 Kremer: Autonomes Handeln intelligenter Maschinen 20

21.
Leistungsgegenstand
Interaktionsfähigkeit?
2.12.2015 Kremer: Autonomes Handeln intelligenter Maschinen 21

22.
Interaktionsfähigkeit
• Kommunikation M2M verlangt Interaktionsfähigkeit
• Interaktionsfähigkeit = Standards und Schnittstellen
• Standards und Schnittstellen sind „moving target“
• Fehlerbehebung
• Technische Änderungen
• Funktionale Erweiterungen
2.12.2015 Kremer: Autonomes Handeln intelligenter Maschinen 22

23.
Interaktionsfähigkeit
• Leistungsgegenstand Interaktionsfähigkeit bei Kauf
• Vereinbarte Beschaffenheit, § 434 I 1 BGB?
• Eignung für im Vertrag vorausgesetzte Verwendung,
§ 434 I 2 Nr. 1 BGB?
• Eignung für gewöhnliche Verwendung plus übliche
und zu erwartende Beschaffenheit für Sachen gleicher Art,
§ 434 I 2 Nr. 2 BGB?
2.12.2015 Kremer: Autonomes Handeln intelligenter Maschinen 23

24.
Interaktionsfähigkeit
• Leistungsgegenstand Interaktionsfähigkeit
• Erhaltung Interaktionsfähigkeit ist in Zukunft gerichtete Leistung
• Werkvertrag oder Mietvertrag mit Erhaltungspflicht?
• Kaufvertrag mit anschließendem Pflege-/Wartungsvertrag?
• Problem: Zugang Anbieter (Remote/IT-Sicherheit/Datenschutz)?
• Problem: Erhaltung Integration in Umsysteme?
• Problem: Test der (zukünftigen) autonomen Interaktionsfähigkeit?
2.12.2015 Kremer: Autonomes Handeln intelligenter Maschinen 24

25.
Telekommunikation?
2.12.2015 Kremer: Autonomes Handeln intelligenter Maschinen 25

26.
Telekommunikation
• Autonome Systeme als Telekommunikationsdienste
• Rechtsfolgen u.a.
• Meldepflicht, § 6 TKG
• Fernmeldegeheimnis, § 88 TKG
• Telekommunikationsdatenschutz, §§ 91 ff. TKG
• „Vorratsdatenspeicherung“, §§ 108 ff. TKG
2.12.2015 Kremer: Autonomes Handeln intelligenter Maschinen 26

27.
Telekommunikation
• Telekommunikationsdienst, § 3 Nr. 24 TKG:
• „in der Regel gegen Entgelt erbrachte Dienste, die ganz oder
überwiegend in der Übertragung von Signalen über
Telekommunikationsnetze bestehen, [...]“
• Diensteanbieter, § 3 Nr. 6 TKG:
• „jeder, der [...] geschäftsmäßig a) Telekommunikationsdienste
erbringt oder b) an der Erbringung solcher Dienste mitwirkt“
2.12.2015 Kremer: Autonomes Handeln intelligenter Maschinen 27

28.
Telekommunikation
• Signalübertragung = Rückgriff OSI-Schichtenmodell
• strittig: Einordnung OTT-Dienste („over the top“)
• VG Köln, Urt. v. 11.11.2015 – 21 K 450/15 (zu Google Mail)
• „wertend-funktionale Betrachtung“ erforderlich
• Veranlassung der Signalübertragung eines Dritten ausreichend
• Beachte: Drittbezug erforderlich (nicht ausreichend: interne Übertragung)
• Beachte: Nicht rechtskräftig, Sprungrevision zugelassen
2.12.2015 Kremer: Autonomes Handeln intelligenter Maschinen 28

29.
(Personenbezogene) Daten
und Zuordnung?
2.12.2015 Kremer: Autonomes Handeln intelligenter Maschinen 29

30.
(personenbezogene) Daten
• Zuordnung der Daten von oder aus autonomen Systemen
• Kein Eigentum an Daten (fehlende Sacheigenschaft)
• Data Ownership bedarf vertraglicher Festlegung
• Data Quality bedarf vertraglicher Festlegung (vergleichbar SLA)
• Daten/Datensammlungen als sonstiges Recht?
• Daten/Datensammlungen als Betriebs-/Geschäftsgeheimnisse?
• Daten/Datensammlungen als Urheber-/Leistungsschutzrecht?
2.12.2015 Kremer: Autonomes Handeln intelligenter Maschinen 30

31.
(personenbezogene) Daten
• Personenbeziehbarkeit der Daten
• Weites Verständnis: absolute Theorie
• Zur Entscheidung beim EuGH – C 582/14
• Vorlage durch BGH, Beschl. v. 28.10.2014 –VI ZR 135/13
• Bei Personenbeziehbarkeit: Anwendbarkeit BDSG
• Zu beachten: ggf. Vorrang Spezialgesetze (TKG, siehe oben)
• Rechtsfolge: Verbot mit Erlaubnisvorbehalt, § 4 Abs. 1 BDSG
2.12.2015 Kremer: Autonomes Handeln intelligenter Maschinen 31

32.
(personenbezogene) Daten
• Lösungsansätze:
• Anonymisierung, § 3 VI BDSG = Datenschutzrecht unanwendbar
• Beachte: De-Anonymisierung führt zurück ins Datenschutzrecht
• Notwendig: Fortlaufende Überprüfung der Anonymität in Prozessen
• Pseudonymisierung, § 3 VIa BDSG = Datenschutzrecht anwendbar
• Eigene Erlaubnistatbestände (z.B. § 15 Abs. 3 TMG)
• Reduzierung der Anforderungen an TOM, § 9 BDSG
2.12.2015 Kremer: Autonomes Handeln intelligenter Maschinen 32

33.
(personenbezogene) Daten
• Folgeproblem im Datenschutzrecht: Transfer in Drittland
• Zweite Stufe Rechtmäßigkeitsprüfung, §§ 4b, 4c BDSG
• Voraussetzung: Angemessenes Datenschutzniveau im Drittland (oder
Einwilligung des Betroffenen u.a. Fälle, § 4c I BDSG)
• Unwirksamkeit Safe Harbor: EuGH, Urt. v. 6.10.2015 – C-362/14
• Alternativen:
• Binding Corporate Rules, EU Model Clauses (Standardverträge)?
• Art. 38, 39 DS-GVO (Code of Conduct, Zertifizierungen)?
2.12.2015 Kremer: Autonomes Handeln intelligenter Maschinen 33

34.
Fazit
2.12.2015 Kremer: Autonomes Handeln intelligenter Maschinen 34

35.
Fragen?
Fragen!
Sascha Kremer
sascha.kremer@loginpartners.de
Tel +49(2238)5408700 / Mobil +49(171)8319621