Formal Learning Theory (FLT) beschäftigt sich aus einer mathematisch/logischen Perspektive mit der Frage, wie aus Beispielen allgemeine Gesetzmässigkeiten induziert werden können. Ich habe dieses Gebiet im Laufe der Jahre nur ein paar Mal gestreift, mich aber nie intensiv damit befasst und seit längerer Zeit auch Nichts mehr dazu gelesen. Entsprechend ist es mir auch nicht möglich, eine umfassende Darstellung dieses Gebietes zu geben. Hier darum nur ein paar Hinweise, die vielleicht als Einstieg für eine intensivere Auseinandersetzung dienen können.

Als Begründer der kann vielleicht Gold gelten (Gold, 1967). Gold interessierte sich für die Erlernbarkeit formaler Grammatiken aus Beispielen. Er leitete einige Resultate über Typen von Grammatiken ab, die anhand von Beispielsätzen (oder auch Nichtsätzen als Gegenbeispielen) mehr oder weniger einfach abgeleitet werden können.

Daraus entwickelte sich ein Forschungsgebiet, das Osherson, Stob und Weinstein (1986) als „General Learning Theory“ bezeichneten (Osherson, et al., 1982). Bei vielen dieser Resultate ist allerdings schwer abzuschätzen, wie nützlich sie für eine psychologische Betrachtung des Lernens sind, unter anderem, da ihr Lernkriterium (perfekte Identifikation der korrekten Grammatik) ein für psychologische Verhältnis unrealistisches Ziel ist.

Valiant (Valiant, 1984) versuchte deshalb mit probabilistischen Kriterien zu arbeiten. Er und seine Mitarbeiter versuchten herauszufinden, welche Konzepte innerhalb einer realistischen Zeitspanne mit einer vorgegeben Präzision allein aus Beispielen erlernbar sind (Haussler, 1987, 1988, Kearns, et al., 1987). Ihre Resultate zeigten ganz klar, dass es Grenzen dafür gibt, was sich „aus Beispielen“ lernen lässt.

Unterdessen scheint sich das Gebiet unter verschiedenen Namen weiterentwickelt zu haben:

• Hendricks und Pedersen sprechen von „Formal Learning Theory“ und geben auf ihrer Website einen kurzen Abriss der geschichtlichen Entwicklung: http://www.mot.ruc.dk/
• Unter Informatikern offenbar eher die Bezeichnung „Computational Learning Theory“ üblich: http://en.wikipedia.org/wiki/Computational_learning_theory
• Und Osherson spricht neuerdings ganz generell von „induktiver Logik“ http://www.princeton.edu/~osherson/IL/ILpage.htm

Literatur

• Gold, E. M. (1967). Language identification in the limit. Information and Control 10: 447-474.
• Haussler, D. (1987). Bias, Version Spaces and Valiant’s Learning Framework. In: Langley, P.: Proc. of the 4 Int. Workshop on Machine Learning. Los Altos, Morgan Kaufmann.
• Haussler, D. (1988). Quantifying inductive bias: AI learning algorithms and Valiant’s learning framework. Artificial Intelligence 36: 177-221.
• Kearns, M., Li, M., Pitt, L. & Valiant, L. G. (1987). Recent Results on Boolean comcept learning. In: Langley, P.: Proceedings of the furth International Workshop on Machine Learning. Los Altos, CA, Morgan Kaufmann: 337-352.
• Osherson, D. N., Stob, M. & Weinstein, S. (1982). Ideal learning machines. Cognitive Science 6: 277-290.
• Valiant, L. G. (1984). A theory of the learnable. Communications of the ACM 27: 1134-1142.