Технической основой элементной базы процессоров первых ЭВМ были электронные вакуумные лампы, а в качестве оперативных запоминающих устройств использовались электронно-лучевые трубки. Это были громоздкие по габаритам машины, занимающие много места и потребляющие много электроэнергии. Они делали несколько тысяч операций в секунду и обладали памятью в несколько тысяч машинных слов. Эти машины предполагали монопольный режим использования, т.е. в распоряжении пользователя были все ресурсы машины и ее управление. Программист писал свою программу в машинных кодах и отлаживал ее за пультом машины, которая на время отладки была полностью в его распоряжении. При этом 90% времени машина простаивала в ожидании команд, т.е. использование машинных ресурсов было малоэффективным из-за отсутствия развитой операционной системы. Использовались ЭВМ первого поколения в основном для научных расчетов. Первой отечественной ЭВМ была МЭСМ (малая электронная счетная машина), разработанная в 1947—1951 гг. под руководством акад. С.А.Лебедева. В 1952 г. была введена в эксплуатацию БЭСМ (большая электронная счетная машина), созданная под руководством С.А.Лебедева. В 1955 г. начался выпуск малой ЭВМ «Урал-1» (руководитель проекта Б.И.Рамеев).
Примером зарубежной серийной модели ЭВМ является IBM-701 (США).
Второе поколение ЭВМ (конец 50-х — середина 60-х годов) называют транзисторно-ферритовым, так как транзисторы (твердые диоды и триоды) заменили электронные лампы в процессорах, а ферритовые (намагничиваемые) сердечники — электронно-лучевые трубки в оперативных запоминающих устройствах.
Применение транзисторов существенно повлияло на характеристики и структуру машин. Транзисторные схемы позволили повысить плотность монтажа электронной аппаратуры на порядок и существенно (на несколько порядков) снизить потребляемую электроэнергию. Срок службы транзисторов на два-три порядка превосходил срок службы электронных ламп. Скорость ЭВМ возросла до сотен тысяч операций в секунду, а память — до десятков тысяч машинных слов.
Создание долговременной памяти на магнитных дисках и лентах, а также возможность подключения к ЭВМ изменяемого состава внешних устройств существенно расширили функциональные возможности вычислительных машин.
В организации вычислительного процесса крупным достижением было совмещение во времени вычислений и ввода-вывода информации, переход от монопольного режима использования ресурсов машины к пакетной обработке. Задания для ЭВМ (на перфокартах, магнитных лентах или дисках) собирались в пакет, который обрабатывался без перерыва между заданиями. Это позволило более экономно использовать ресурсы машины.
В программировании были разработаны методы программирования в символических обозначениях, созданы первые алгоритмические языки и трансляторы с этих языков, созданы библиотеки стандартных программ.
Наиболее широкое применение нашли отечественные ЭВМ, такие, как БЭСМ-4, М-220, «Минск-32». Типичным представителем зарубежной ЭВМ второго поколения является IBM-7090.