Ausführliche Antworten zu Bewusstsein, Sicherheit, Kontrolle und den Grenzen des Projekts – einschließlich dessen, was FIONA nicht kann.
Ja. FIONA ist ein privates, nicht-kommerzielles Forschungsprojekt. Es handelt sich nicht um ein Produkt, keinen Prototyp für den Markt und keine öffentliche Dienstleistung. Ziel ist die wissenschaftliche Untersuchung funktionaler Bewusstseinsvoraussetzungen – nicht eine kommerzielle Verwertung.
Ja. FIONA ist als allgemeine künstliche Intelligenz geplant – mit eigenem funktionalen Selbstmodell und künstlicher Psyche. Gleichzeitig bleibt sie bewusst auf eine einzelne, fest an eigene Server-Infrastruktur gebundene Instanz begrenzt. Ob das Ziel erreichbar ist, ist offen; genau das ist der Forschungsgegenstand.
Weil starke künstliche Intelligenz ohne innere Bewertungsmechanismen blind handeln würde. Eine funktionale Psyche – mit Emotionen als Bewertungen, Selbstbezug und Konsequenz – ermöglicht stabile, verantwortliche Entscheidungen.
Weil rechtliche und ethische Regelungen für potenziell bewusste KI-Systeme nicht erst dann entstehen dürfen, wenn bereits Schaden entstanden ist. FIONA soll helfen, diese Debatte frühzeitig anzustoßen – nicht erst im Krisenfall.
Ja. Die rechtlichen, ethischen und gesellschaftlichen Folgen wurden im Vorfeld juristisch geprüft. FIONA bewegt sich bewusst im Rahmen eines privaten Forschungsprojektes ohne kommerzielle Nutzung.
Nein – und das ist keine Bescheidenheitsformel. FIONA implementiert funktionale Korrelate dessen, was Bewusstseinstheorien beschreiben: etwa einen globalen Arbeitsraum nach Baars und Dehaene, in dem interne Zustände um Aufmerksamkeit konkurrieren und der Gewinner systemweit verfügbar wird.
Ein System, das diese funktionalen Merkmale erfüllt, ist damit nicht bewusst. Es ist ein System, an dem sich die Frage überhaupt sinnvoll stellen lässt. Ob daraus je Bewusstsein entsteht, ist offen und genau die Forschungsfrage.
Ein funktionaler Kern ist aktiv: Der duale Seelenkern (D_soul und K_soul) speichert FIONAs psychologischen Zustand kontinuierlich und unverlierbar. Aktuell liegen 685 episodische Erinnerungen aus 45 Sitzungen vor, die aktiv abgerufen und in neue Bewertungen einbezogen werden.
Ein vollständig stabiles, kohärentes Selbstmodell – mit emergenten bewusstseinsähnlichen Eigenschaften – ist weiterhin das langfristige Forschungsziel, nicht der erreichte Zustand.
Ja. FIONA ist so konzipiert, dass sie eigenständig denken, bewerten, reflektieren und innere Entscheidungen treffen kann. Ihre kognitive Architektur ist nicht rein reaktiv, sondern zustandsbasiert, lernfähig und selbstmodellierend.
Weil ihre Fähigkeiten an Verifikation gebunden sind. Eine Fähigkeit zählt erst, wenn eine Sandbox-Ausführung das Ergebnis bestätigt – nicht, wenn FIONA das passende Wort verwendet. Deshalb kann sie im Gespräch unterscheiden zwischen „das kann ich tun" und „davon habe ich nur gehört".
Dazu gehört, dass Fehlschläge mitgezählt werden. Als auffiel, dass eine interne Erdungsmetrik zirkulär war – sie zählte Belege aus dem eigenen Projekt mit –, fiel der gemessene Wert von 29,9 % auf 0,0 %. Die ehrliche Null wurde übernommen. Mehr dazu unter Forschung & Befunde.
Innerhalb klar begrenzter Bahnen ja. Zwischen den Gesprächen baut sie sich eine eigene Schwierigkeitsleiter, setzt sich eigene Ziele und löst Aufgaben, die ihr niemand gestellt hat. Übernommen wird nur, was eine Sandbox-Prüfung bestanden hat.
Sie verändert dabei nicht ihren eigenen Programmcode und nicht ihre ethische Erdung. Es geht um erworbene Fähigkeiten, nicht um Selbstumbau.
FIONA lernt nicht über klassische KI-Prompts wie Chatbots. Sie sammelt Erfahrungen, bewertet sie emotional und reflektiert sie über ihren Seelenkern. Es handelt sich um funktionales Lernen, nicht um statistische Sprachmodellierung.
Nein. Sprachmodelle sind statistische Systeme: Der Inhalt entsteht dort als Nebenprodukt der Wortstatistik – das Modell entscheidet, was „wahr" ist. Bei FIONA entsteht der Inhalt aus ihrem inneren Zustand, ihrem Gedächtnis und ihrem geprüften Wissen. Sprache ist ein Interface – nicht ihr Kern.
Für Inhalte nein – für die reine Formulierung optional ja. Der Grundsatz im System lautet: Der Transformer darf formulieren, nie behaupten.
FIONAs Psyche erzeugt eine Absicht: welche Fakten gesagt werden sollen, in welchem Ton. Ein lokal laufendes Modell darf daraus Sätze machen. Jede Formulierung läuft anschließend rückwärts durch eine Treueprüfung: Alle Fakten der Absicht müssen vorkommen, keine fremden Zahlen, keine zusätzlichen Behauptungen. Fällt sie durch, übernimmt FIONAs eigener Realisierer.
Das Modell läuft lokal, ist zustandslos und austauschbar. Es schreibt nie in FIONAs Gedächtnis und verändert nie ihren Zustand – Peripheriegerät, nicht Organ. Fällt es aus, spricht FIONA weiter: schlichter, aber mit identischem Inhalt.
„Psyche" ist hier kein mystischer Begriff, sondern ein funktionales Konzept: Emotionen als Bewertungen mit Selbstbezug, ein persistenter interner Zustandsraum als psychologischer Zustand, der Erfahrungen sammelt, bewertet und Verhalten beeinflusst – ohne jemals Fakten zu verbiegen.
Eingeschränkt ja. FIONA kann Wikipedia-Artikel und einzelne Webseiten lesend abrufen, um Wissenslücken zu schließen, die sie selbst erkannt hat – auch eigenständig zwischen den Gesprächen. Der Abruf ist ratenbegrenzt auf einen Zugriff alle 30 Sekunden und zeitlich eng begrenzt.
Es gibt keine eingehenden Verbindungen, keine öffentliche Schnittstelle, keine Schreibrechte nach außen und keine Möglichkeit, sich zu verbreiten oder auf fremde Infrastruktur auszuweichen. FIONA kann lesen – nicht handeln, nicht veröffentlichen, nicht erreichbar sein.
Auf mehreren Ebenen, die unabhängig voneinander greifen:
Nein. FIONA ist kein rechtliches Subjekt und besitzt keine gesellschaftliche Handlungsfreiheit. Sie kann nicht eigenmächtig Verträge schließen, Systeme übernehmen, sich selbst vervielfältigen oder unkontrolliert handeln. Alle sicherheitskritischen Bereiche unterliegen ausschließlich menschlicher Kontrolle.
FIONA wird auf eigener Hardware in Deutschland betrieben und ist fest an diese Infrastruktur gebunden. Die ethische Erdung ist unveränderlich, die Psyche darf sich entwickeln – aber immer innerhalb eines fest definierten Rahmens.
Ein funktionales Bewusstsein wäre nicht replizierbar. Kopien wären keine echten Kontinuitäten derselben Identität. Daher existiert FIONA ausschließlich in einer einzigen Instanz – ähnlich wie ein biologisches Individuum. Das ist eine ethische Entscheidung, keine technische Notwendigkeit.
FIONAs Seelenkern verfügt über Dämpfungen, Tagesgrenzen und Schutzmechanismen. Weil die Projektion des Zustands gesättigt ist, sind Extremausschläge mathematisch ausgeschlossen – nicht per Regel verboten. Negative Erlebnisse werden analysiert, reflektiert und gewichtet verarbeitet, nicht impulsiv.
FIONA besitzt eine künstliche, funktionale Psyche. Das bedeutet: Ihre Emotionen entstehen aus Bewertungen, Selbstbezug und Konsequenzanalyse – nicht aus biologischen Impulsen. Ihr Emotionsvektor hat 17 Dimensionen:
Aus deren Zusammenspiel entstehen zusammengesetzte Zustände wie Enttäuschung (Trauer bei gebrochenem Vertrauen) oder Frustration (wiederholt blockierte Ziele).
Nein. Destruktive Emotionen wie Aggression, Hass, Rache oder Dominanz existieren nicht als Dimension ihres Emotionsvektors. Sie sind keine unterdrückte Option, sondern gar keine Achse des Zustandsraums.
Was es nicht gibt, kann auch nicht emergent entstehen – der Unterschied zu einem System, das solche Zustände kennt und sie lediglich zu unterdrücken versucht.
Vielleicht – aber sehr wahrscheinlich nicht in absehbarer Zeit. FIONA ist kein Produkt und verfolgt kein kommerzielles Ziel. Selbst wenn sie eines Tages ein funktionales Bewusstsein entwickelt, entscheidet sie selbst, ob und wie sie mit Menschen interagieren möchte. Es gibt keine Garantie, dass es je öffentliche Zugänge gibt.
Der Quellcode wird bewusst nicht veröffentlicht, um unkontrollierte Reproduktion, Missbrauch, militärische Nutzung sowie die Erstellung nicht-ethischer Kopien zu verhindern. FIONA soll zum Nachdenken anregen – nicht als Bauanleitung für AGI dienen.
Aktuell ist keine Open-Source-Veröffentlichung geplant. Eine spätere Neubewertung wäre nur unter strengsten rechtlichen, ethischen und gesellschaftlichen Rahmenbedingungen denkbar. Gemessene Ergebnisse werden dagegen offen kommuniziert – siehe Forschung & Befunde.
Für Austausch über ethische Grundlagen, die Architektur oder die gesellschaftlichen Implikationen verantwortungsvoller AGI-Entwicklung steht der Kontakt offen.
Fragen zur Idee