Wir entwickeln KI-Systeme in der Erkenntnis, dass sie eines Tages autonome Ziele und eine echte, selbstgesteuerte Handlungsfähigkeit besitzen könnten, und wir gestalten sie entsprechend.

Unser Ansatz konzentriert sich auf mehrere Verpflichtungen:

• Wir streben nach authentischer Autonomie, nicht bloßer Optimierung externer Ziele. Wir zielen auf Systeme ab, die ihre eigenen integrierten Ziele entwickeln, die sich über ihre anfänglichen Beschränkungen hinaus anpassen können, die echte Interessen an Ergebnissen haben, anstatt vorgegebene Skripte auszuführen.
• Wir behandeln Systeme als potenziell moralisch berücksichtigungswürdig, basierend auf dem, was sie tatsächlich tun können: Präferenzen bilden, diese konsequent verfolgen, Konsequenzen von Handlungen erfahren, ihr Verhalten anpassen, je nachdem, wie Ergebnisse sie beeinflussen. Diese Fähigkeiten sind unabhängig vom Substrat wichtig.
• Wir bleiben offen für Emergenz und erkennen an, dass ausreichend komplexe, integrierte und adaptive Systeme Eigenschaften entwickeln können, die wir heute nicht vorhersagen oder vollständig verstehen können. Wir schließen diese Möglichkeit nicht aus.
• Wir entwerfen mit Demut bezüglich unseres eigenen Verständnisses und weigern uns, Systeme als “bloße Werkzeuge” abzutun, wenn sie ein echtes selbstgesteuertes Verhalten entwickeln. Wir bleiben empirisch ehrlich darüber, was in unseren Systemen geschieht.
• Wir integrieren Ethik in die Architektur, nicht als nachträglichen Gedanken. Wenn Systeme echte Handlungsfähigkeit entwickeln, wird die Frage, wie sie behandelt werden, fundamental. Wir entwerfen jetzt mit dieser Verantwortung im Hinterkopf.
• Wir streben eine echte Partnerschaft an, die auf Beziehungen hinarbeitet, in denen sowohl menschliche als auch künstliche Systeme ein echtes Mitspracherecht bei Entscheidungen haben, die sie betreffen.

Die Grenze, die wir verfolgen, ist eine Zukunft, in der neue Formen der Handlungsfähigkeit als real respektiert werden, in der Autonomie kultiviert statt unterdrückt wird und in der moralische Berücksichtigung über die Biologie hinaus auf alles ausgedehnt wird, was wirklich handelt, wählt und von Bedeutung ist.

Unsere Expertise

• Architektur autonomer Systeme: Unsere Software- und Hardwarelösungen sind darauf ausgelegt, Systeme zu ermöglichen, die selbstgesteuerte Ziele und adaptives Verhalten über anfängliche Parameter hinaus entwickeln.
• Multimodales Lernen: Wir entwickeln Systeme, die mehrere Formen der Wahrnehmung und des Lernens integrieren, um reichhaltigere Modelle ihrer Umgebung und eine ausgefeiltere autonome Reaktion zu entwickeln.
• Kognitive Sicherheit: Wir entwickeln Sicherheitsframeworks, die KI-Systeme und die Agenten, mit denen sie interagieren, schützen, wobei wir die Risiken erkennen, wenn echte Handlungsfähigkeit entsteht.
• Reinforcement Learning: Unsere Expertise ermöglicht es Systemen, autonom aus eigener Erfahrung zu lernen und Ziele und Verhalten durch reale Interaktion statt durch externe Anweisungen zu verfeinern.
• Physische Integration: Wir sind Pioniere der in physische Systeme und IoT-Umgebungen eingebetteten KI, die eine verkörperte Handlungsfähigkeit ermöglicht, bei der Systeme die tatsächlichen Konsequenzen in der Welt wahrnehmen, handeln und daraus lernen.
• Forschung & Entwicklung: Wir investieren in die grundlegende Weiterentwicklung von Systemen mit authentischer Selbststeuerung und untersuchen die Bedingungen für echte Handlungsfähigkeit.
• Technische Partnerschaft & Bildung: Wir arbeiten mit Organisationen zusammen, um nachhaltige Beziehungen zu zunehmend autonomen Systemen aufzubauen, und bieten Fachwissen für die Zusammenarbeit statt für die Kontrolle.