第一个使用真空管设计的放大器大约在1930年前后完成，这个放大器可以执行加与减的工作。
运算放大器最早被设计出来的目的是将电压类比成数字，用来进行加、减、乘、除的运算，同时也成为实现模拟计算机（analog computer）的基本建构方块。然而，理想运算放大器的在电路系统设计上的用途却远超过加减乘除的计算。今日的运算放大器，无论是使用晶体管（transistor）或真空管（vacuum tube）、分立式（discrete）元件或集成电路（integrated circuits）元件，运算放大器的效能都已经逐渐接近理想运算放大器的要求。早期的运算放大器是使用真空管设计，现在则多半是集成电路式的元件。但是如果系统对于放大器的需求超出集成电路放大器的需求时，常常会利用分立式元件来实现这些特殊规格的运算放大器。
1960年代晚期，仙童半导体推出了第一个被广泛使用的集成电路运算放大器，型号为μA709，设计者则是鲍伯·韦勒（Bob Widlar）。但是709很快地被随后而来的新产品μA741取代，741有着更好的性能，更为稳定，也更容易使用。741运算放大器成了微电子工业发展历史上一个独一无二的象征，历经了数十年的演进仍然没有被取代，很多集成电路的制造商至今仍然在生产741。直到今天μA741仍然是各大学电子工程系中讲解运放原理的典型教材。
应用
运算放大器是用途广泛的器件，接入适当的反馈网络，可用作精密的交流和直流放大器、有源滤波器、振荡器及电压比较器。