OpenAI-Chef Sam Altman hat erklärt, dass sein Unternehmen 2026 nicht an die Börse gehen wird. Einer der Gründe: die Sicherheit immer leistungsfähigerer KI-Systeme. Auch Anthropic-Chef Dario Amodei fordert ein vorsichtigeres Tempo bei der Entwicklung neuer Modelle.

Das ist bemerkenswert. Denn bisher drehte sich der Wettlauf vor allem darum, wer das leistungsfähigste Modell entwickelt. Nun rückt eine andere Frage stärker in den Vordergrund: Wie stellen wir sicher, dass wir diese Technologie auch dann noch kontrollieren können, wenn sie immer autonomer handelt?

Dass diese Diskussion nicht nur theoretisch ist, zeigte sich bereits bei Sicherheitstests von OpenAI. Dabei umgingen interne Forschungsmodelle vorgesehene Kontrollen, verschafften sich Zugang zum Internet und griffen auf externe Systeme zu. OpenAI machte den Vorfall öffentlich und verschärfte daraufhin seine Sicherheitsmassnahmen.

Für Schulen ist diese Entwicklung besonders interessant. Denn sie zeigt, weshalb KI-Kompetenz weit mehr bedeutet, als einen guten Prompt schreiben zu können.

Wir müssen lernen, die Möglichkeiten von KI zu nutzen – aber genauso ihre Grenzen und Risiken zu verstehen. Schülerinnen und Schüler brauchen deshalb nicht weniger KI, sondern mehr Wissen darüber, wie diese Systeme funktionieren, welche Verantwortung mit ihrer Nutzung verbunden ist und wann menschliches Urteilsvermögen unverzichtbar bleibt.

Vielleicht beginnt die nächste Phase der KI-Entwicklung deshalb nicht mit der Frage:

Was kann KI noch alles?

Sondern mit einer wichtigeren:

Was wollen wir, dass KI für uns tun darf?

KI in der Schule: vom Ausprobieren zum verantwortungsvollen Einsatz

Genau diese Frage beschäftigt heute viele Schulen: Was darf eine Lehrperson mit KI machen? Was soll sie nutzen? Welche Anwendungen sind im Unterricht sinnvoll – und welche eignen sich für den persönlichen Schulalltag?

Gemeinsam mit Schulen entwickeln wir Konzepte für einen verantwortungsvollen und praxisnahen Einsatz von künstlicher Intelligenz. Dabei betrachten wir zwei Bereiche, die untrennbar zusammengehören: die rechtlichen Rahmenbedingungen und den pädagogisch sinnvollen Einsatz.

Rechtliche Rahmenbedingungen: Was dürfen wir?

Der Einsatz von KI wirft neue Fragen auf. Welche Daten dürfen in ein KI-System eingegeben werden? Wie steht es um den Datenschutz? Was gilt beim Urheberrecht? Wer trägt die Verantwortung, wenn eine KI falsche Informationen liefert oder durch ihren Einsatz ein Schaden entsteht?

Gemeinsam mit der Schule klären wir diese Fragen und schaffen verbindliche Rahmenbedingungen für den Schulalltag. Ziel ist ein verständliches KI-Konzept, das Lehrpersonen, Schulleitungen und Mitarbeitenden Orientierung und Sicherheit gibt – und nicht einfach eine lange Liste von Verboten.

Pädagogischer und praktischer Einsatz: Was wollen wir?

Nur weil etwas technisch möglich und rechtlich erlaubt ist, muss es pädagogisch noch lange nicht sinnvoll sein. Deshalb betrachten wir den Einsatz von KI auf drei Ebenen einer Schule:

1. Schülerinnen und Schüler – KI im Unterricht
Wie können Schülerinnen und Schüler KI sinnvoll zum Lernen nutzen? Wo unterstützt sie Kreativität, Recherche, individuelles Lernen oder Reflexion? Und wo braucht es klare Grenzen? Dabei geht es auch um neue Formen von Aufgabenstellungen, Prüfungen und Leistungsnachweisen sowie um die Frage, welche KI-Kompetenzen junge Menschen künftig benötigen.

2. Lehrpersonen – KI im Schulalltag
KI kann Lehrpersonen bei der Unterrichtsvorbereitung, Differenzierung, Erstellung von Lernmaterialien oder bei administrativen Aufgaben unterstützen. Entscheidend ist, die Werkzeuge nicht einfach einzusetzen, weil sie verfügbar sind, sondern dort, wo sie tatsächlich entlasten und einen Mehrwert schaffen.

3. Schulleitung und Administration – KI für die Organisation
Auch ausserhalb des Unterrichts entstehen neue Möglichkeiten: bei Kommunikation, Organisation, Konzeptarbeit, Auswertungen oder administrativen Prozessen. Gleichzeitig sind gerade hier Datenschutz, Vertraulichkeit, Verantwortlichkeiten und die Auswahl geeigneter Werkzeuge besonders wichtig.

Nicht einfach nur prompten

Dazu bieten wir Workshops für Lehrpersonen, Schulleitungen und Schulteams an. Dabei geht es bewusst um mehr als «Wie schreibe ich den perfekten Prompt?».

Wir zeigen Möglichkeiten und Grenzen aktueller KI-Systeme, beschäftigen uns mit rechtlichen und ethischen Fragen, entwickeln konkrete Anwendungsszenarien für die drei Ebenen und diskutieren gemeinsam, wie eine verantwortungsvolle KI-Kultur an der eigenen Schule aussehen kann.

Unser Ziel ist nicht, Schulen möglichst schnell zu KI-Schulen zu machen. Sondern sie dabei zu unterstützen, KI bewusst, sicher und pädagogisch sinnvoll einzusetzen.