- Anzeige -
- Anzeige -
- Anzeige -
Lesedauer: 11min
Teil 10 der Serie 'Autonome Systeme' - Werte und Ethik
„Wir müssen den Maschinen Meta-Regeln mitgeben“

Okt 5, 2020 | Mechanik

KI-basierte Systeme und Maschinen werden immer autonomer, selbstständiger und intelligenter. Ob und wie ist es zu schaffen, dass sie auf Dauer menschlichen Werten und Regeln folgen? Dr. Kurt D. Bettenhausen, Vorsitzender des interdisziplinären Gremiums Digitale Transformation im VDI und Vorstandsmitglied der VDI/VDE-GMA, spricht im zehnten Teil unserer Serie Autonome Systeme mit dem VDI.

Die Leistungsfähigkeit autonomer Systeme nimmt zu. Wie stellen Sie sicher, dass diese Systeme auf Dauer die geplanten Aufgaben übernehmen und nicht darüber hinausgehen, also beherrschbar bleiben?

Dr. Kurt D. Bettenhausen: Lassen Sie uns für einen Moment von der Annahme ausgehen, dass die Leistungsfähigkeit tatsächlich in einen Bereich steigt, in dem autonome Systeme sich selbständig über ihren eigentlichen Bestimmungszweck hinaus weiterentwickeln können. Grundsätzlich bleiben drei Möglichkeiten: Dem Erbauer des autonomen Systems ethische Regeln für das Design der Systeme zu geben, das System selbst zu reglementieren oder dem System Regeln mitzugeben, die seine Weiterentwicklung lenken.

Welche dieser drei Möglichkeiten halten Sie langfristig für die wirksamste?

Bettenhausen: Solange wir über Systeme reden, die nicht KI-basiert sind, ist es vollkommen ausreichend, wenn die Personen, die sie konstruieren und programmieren, ethischen Werten folgen. Das System selbst reglementieren zu wollen, wird sich auf Dauer als Hase-und-Igel-Spiel entwickeln, bei dem die Regeln und die Regelnden mit hoher Wahrscheinlichkeit nicht mit dem technologischen Fortschritt werden mithalten können. In dem Moment jedoch, in dem das eigenständige Lernen eines Systems ins Spiel kommt, z.B. über Methoden wie Deep Learning, müssen wir uns über übergeordnete, sogenannte Meta-Regeln Gedanken machen. Und das müssen wir tun, bevor wir die Maschinen in unsere Umwelt lassen. Denken Sie beispielsweise nur an den Chatbot, der innerhalb eines einzigen Tages rassistische Propaganda verbreitete oder an die Chatbots, die in kürzester Zeit eine für Menschen unverständliche Sprache entwickelten. Wir dürfen nicht die Kontrolle verlieren und wir müssen den Maschinen zugleich Meta-Regeln mitgeben, die sie zwingend befolgen müssen.

Deep-Learning-Systeme können wir nicht mehr kontrollieren?

Bettenhausen: Zumindest können wir nicht zu jedem Zeitpunkt schnell genug vorhersagen, was genau sie lernen und gegebenenfalls in Echtzeit anwenden werden. Bei Maschinen, die aus der immer größer werdenden Menge an Daten Wissen und über deren Analyse Erkenntnisse ziehen, können wir nicht sagen, was sie in einem Jahr lernen werden. Sie tun dies selbstverständlich nur im vorgegebenen Bereich. Ein smarter Staubsauger wird, so intelligent er auch werden mag, morgen nicht Ihre Spülmaschine ausräumen. Aber bleiben wir bei diesem Beispiel: Wenn der intelligente Staubsauger erkennt, dass es besonders der Hund ist, der den größten Dreck verursacht, muss er einen effizienten Weg finden, Haare und Dreck schnell zu entfernen. Er darf nicht auf die Idee kommen, den Hund rauszuschmeißen und ihm den Eingang zu verwehren oder ihn vorsorglich komplett kahl zu scheren – oder eben Schlimmeres. Er braucht also übergeordnete Regeln. Als Ausgangsbasis können die bekannten Robotergesetze von Asimov herhalten. Gerade das zweite Gesetz, der Roboter muss den menschlichen Befehlen gehorchen, ist angesichts von Kriegen und Terroranschlägen wohl differenzierter zu betrachten. Aber sie sind ein erster Schritt und eben schon 75 Jahre alt.

Seiten: 1 2 3Auf einer Seite lesen

http://www.vdi.de

News

Topstories

Das könnte Sie auch interessieren

Bild: FP InovoLabs GmbH
Bild: FP InovoLabs GmbH
So geht Retrofit!

So geht Retrofit!

In modern vernetzten Maschinen finden sich greifbare Vorteile. Zudem liefert eine zentrale Überwachung von Anlagen enormes Verbesserungspotential. Das Kosten/Nutzen-Verhältnis wäre jedoch fragwürdig, wenn dafür zuvor teuer angeschaffte Maschinen ausgetauscht werden müssten. Retrofit lautet hier die bessere Lösung.

Bild: Weidmüller GmbH & Co. KG
Bild: Weidmüller GmbH & Co. KG
Autark und modular

Autark und modular

Standalone-Steuerungen erfüllen eigenständig ihre Aufgaben und bieten dadurch in vielen Anwendungen Vorteile gegenüber zentralen Lösungen: Sie reduzieren den anlagenweiten Datenverkehr, sind unempfindlich gegenüber Störungen im Netzwerk, erleichtern die Fehlersuche und lassen sich sehr gut mit manuellen Prozessen kombinieren. Gerade hier werden neue flexible Plug&Play-Steuerungskonzepte benötigt, die sich ohne großen Aufwand auf die jeweilige Applikation einstellen lassen. Die SPS u-control web von Weidmüller vereinfacht als offene, webbasierte Steuerung den Programmierprozess, integriert Echtzeitautomatisierung sowie IoT-Kommunikation und bietet sich somit als Schnittstelle zwischen den Welten von IT und OT an.

Bild: FGW Forschungsgemeinschaft Werkzeuge und Werkstoff
Bild: FGW Forschungsgemeinschaft Werkzeuge und Werkstoff
Wo gehobelt wird, fallen Späne

Wo gehobelt wird, fallen Späne

Während Spanbildung, -fluss und Späneflug beim Hobeln und Fräsen relativ gut erforscht sind, stellen beim Kreissägen die Eingriffsverhältnisse des Sägeblatts hohe Hürden bei der Beobachtung und Untersuchung dar. Die Späne entstehen optisch unerreichbar in der Schnittfuge, fließen ebenfalls unsichtbar durch den Spanraum und werden erst beim Austritt des Sägeblatts zu einem relativ späten Zeitpunkt sichtbar. Aber auch das nur teilweise, weil sich bei vielen Anwendungen ein Teil der Späne zwischen Sägestammblatt und Schnittgut den Weg ins Freie sucht. In einem IGF-Vorhaben hat die Forschungsgemeinschaft Werkzeuge und Werkstoffe e.V (FGW) die Erfassung der realen Spanentstehung zusammen mit Holzbearbeitungsmaschinen- und -werkzeugherstellern eingehend untersucht.

Bild: G. Kraft Maschinenbau GmbH
Bild: G. Kraft Maschinenbau GmbH
Ein wahres Kraft-Paket

Ein wahres Kraft-Paket

Möbelteile transportsicher, homogen, nachhaltig, und automatisiert in Losgröße 1 verpacken. Das war das große Ziel bei der Entwicklung einer neuen Verpackungsanlage von G. Kraft Maschinenbau GmbH, sagt Jürgen Sandmeier. Er ist Konstruktionsleiter bei Kraft Maschinenbau und einer der vielen Ideengeber einer ungewöhnlichen Verpackungsanlage. Die HOB hat die Anlage unter die Lupe genommen.

Bild: Hans Turck GmbH & Co. KG
Bild: Hans Turck GmbH & Co. KG
Highway to Cloud

Highway to Cloud

Die dezentrale Automatisierung greift in vielen Fällen die Vorteile der zunehmenden Digitalisierung in der Produktion sehr gut auf. Mit einer Codesys-Steuerung im robusten IP67-Blockmodul bringt Turck eine intelligente I/O-Lösung direkt an die Maschine. Ein neues Firmware-Update erlaubt jetzt sogar die direkte Cloudanbindung ohne separates Edge Gateway

Bild: Codesys GmbH
Bild: Codesys GmbH
Im Praxiseinsatz: 
Codesys Automation Server

Im Praxiseinsatz: Codesys Automation Server

Landwirtschaft ist systemrelevant – sie macht uns alle satt. Optimierte Maschinen sorgen dafür, dass von der Aussaat bis zum Supermarkt die Qualität stimmt und arbeitsintensive Aufgaben nicht mehr körperlich aufreibend oder gefährlich sind. Wie dabei Hightech und Industrie 4.0 helfen können, erläutert das Praxisbeispiel der Firma Fliegl.

Bild: Homag Plattenaufteiltechnik GmbH
Bild: Homag Plattenaufteiltechnik GmbH
„Das Tool macht Robotersägen fürs Handwerk noch besser und wirtschaftlicher“

„Das Tool macht Robotersägen fürs Handwerk noch besser und wirtschaftlicher“

Mit den Homag-Robotersägen Sawteq B-300/B-400 flexTec begann vor zwei Jahren im Handwerk ein neues Zeitalter: das des mannlosen Zuschnitts. Die Sägen erledigen ihn über längere Strecken autonom, lassen sich aber auch von Hand bedienen. Das bleibt auch weiterhin so. Neu ist ein digitales Produkt, der intelliOptimizer Stacking. Er verlängert die Phasen der autonomen Fertigung deutlich. Die HOB-Redaktion sprach mit Arne Mömesheim, Product Manager Software bei der Homag Plattenaufteiltechnik GmbH, über die Neuentwicklung.

- Anzeige -
- Anzeige -
- Anzeige -