Теория операторов — раздел функционального анализа, который изучает свойства непрерывных линейных отображений между нормированными пространствами. Вообще говоря, оператор — это аналог самой обычной функции или матрицы в конечномерном пространстве. Но оператор может действовать и в бесконечномерных пространствах.

Отображение из векторного пространства в векторное пространство называется линейным оператором если для любых и в и любых скаляров и . Часто пишут вместо . Линейный оператор из нормированного пространства в нормированное пространство называется ограниченным если найдется положительное вещественное число такое что для всех в . Наименьшая константа удовлетворяющая такому условию называется нормой оператора и обозначается . Нетрудно видеть что линейный оператор между нормированными пространствами ограничен тогда и только тогда когда он непрерывен. Под термином «оператор» в функциональном анализе обычно понимают ограниченный линейный оператор.

Множество всех (ограниченных линейных) операторов из нормированного пространства в нормированное пространство обозначается . В случае когда пишут вместо . Если  — Гильбертово пространство, то обычно пишут вместо . На можно ввести структуру векторного пространства через и , где , , а  — произвольный скаляр. С введенной выше операторной нормой, превращается в нормированное пространство.

В частности, и для любых и произвольного скаляра . Пространство является Банаховым тогда и только тогда когда  — Банахово.

Пусть и  — нормированные пространства, и . Композиция и обозначается и называется «произведением» операторов и . Заметим что и . Если  — Банахово пространство, то с введенным выше умножением является Банаховой алгеброй.

В «теории операторов» можно выделить несколько основных разделов:

1. Спектральная теория изучает спектр оператора.
2. Классы операторов. В частности, компактные операторы, Фредгольмовы операторы, изоморфизмы, изометрии, строго сингулярные операторы и т. п. Изучают также неограниченные операторы и частично определенные операторы, в частности замкнутые операторы.
3. Операторы на специальных нормированных пространствах.
   • На Гильбертовых пространствах изучают самосопряженные, нормальные, унитарные, положительные операторы и др.
   • На функциональных пространствах: дифференциальные, псевдодифференциальные, интегральные, и псевдоинтегральные операторы; операторы умножения, подстановки, подстановки с весом и др.
   • На Банаховых решетках: положительные операторы, регулярные операторы и др.
4. Совокупности операторов (то есть, подмножества ): операторные алгебры, операторные полугруппы и др.
5. Теория инвариантных подпространств.