Группа специального назначения "Вымпел" КГБ СССР была создана 19 августа 1981 года приказом председателя КГБ Юрия Андропова. Инициатором создания "Вымпела" выступил начальник нелегальной разведки Первого главного управления КГБ СССР генерал-майор Юрий Иванович Дроздов. После Великой Отечественной войны подразделения специального назначения в органах безопасности были постепенно упразднены. Только в 1969 году в Высшей Краснознаменной школе КГБ при Совете министров СССР были организованы Курсы усовершенствования офицерского состава (КУОС), готовящие спецрезервистов.
С ростом террористической угрозы во всем мире в 1974 году была создана Группа "А" 7-го управления КГБ СССР первоначальной численностью всего 30 человек. События в Афганистане привели генерала Дроздова к мысли о необходимости создания мощного, хорошо вооруженного спецподразделения для выполнения боевых задач в любой точке мира. О чем он и доложил Юрию Андропову 31 декабря 1979 года по возвращению из командировки после штурма дворца Тадж-Бек. Спустя полтора года после согласования на самом высоком уровне решение было принято.
Местом дислокации "Вымпела" был определен объект в Балашихе, созданный еще в 1936 году для Школы особого назначения, где проходили подготовку многие известные разведчики, в том числе Николай Кузнецов и Рудольф Абель. На объекте уже располагался КУОС. Название "Вымпел" и его задачи знали лишь несколько руководителей, для остальных сотрудников это был "Отдельный учебный центр КГБ СССР". Набирали в подразделение наиболее подготовленных офицеров КГБ СССР по всей стране.
Предпочтение отдавалось тем, кто уже побывал в Афганистане. Позднее на должности прапорщиков отбирались лучшие солдаты, отслужившие в Кремлевском полку или дивизии им. Дзержинского. Руководителями боевых подразделений стали офицеры, участники декабрьских событий 1979 года. Командиром "Вымпела" был назначен Герой Советского Союза капитан 1 ранга Козлов Эвальд Григорьевич - человек большого личного мужества, отличившийся при штурме дворца Тадж-Бек.