Решение о выделении органов госбезопасности из МВД в самостоятельное ведомство было принято Президиумом ЦК КПСС 8 февраля 1954 г. (П 50/II). На этом заседании была рассмотрена записка МВД N320/К от 4 февраля 1954 г. в которой говорилось о том, что структура МВД громоздка и "не в состоянии обеспечить на должном уровне агентурно-оперативной работы". Предлагалось выделить оперативно-чекистские Управления и отделы из МВД и на их базе создать "Комитет по делам государственной безопасности при Совете Министров СССР". При этом предусматривалось одновременное сокращение численности передаваемых в КГБ оперативно-чекистских кадров на 20%, также подлежал сокращению и штат остающийся в МВД. Президиум ЦК КПСС постановил "принять в принципе проект постановления ЦК о выделении из МВД органов государственной безопасности". Было дано поручение Секретарю ЦК Н.Н.Шаталину и Министру ВД С.Н. Круглову - по линии МВД, а Секретарю ЦК М.А.Суслову и 1-м заместителям Министра ВД И.А.Серову и К.Ф.Луневу - по линии КГБ, в пятидневный срок подготовить проекты соответствующих постановлений "с учетом обмена мнениями на Президиуме ЦК". Но только через месяц, Указом Президиума Верховного Совета СССР от 13 марта 1954 г. был образован КГБ при СМ СССР, а его Председателем назначен И.А.Серов.

Постановлением Совета Министров СССР от 13 марта 1954 г. 1-м заместителем Председателя КГБ при СМ СССР был назначен К.Ф.Лунев (бывший ранее 1-м заместителем Министра ВД) и заместителями И.Т.Савченко (ранее начальник 8 Управления МВД) и П.И.Григорьев (по кадрам) (ранее заместитель заведующего сектором органов МВД Отдела административных и торгово-финансовых органов ЦК КПСС). Несколько позднее - 25 марта 1954 г. заместителем Председателя КГБ был назначен В.А.Лукшин (ранее заместитель заведующего Отделом административных и торгово-финансовых органов ЦК КПСС).

Подразумевалось, что уже в самом названии Комитет государственной безопасности содержится идея коллегиальности руководства, поэтому, в отличие от МВД, где существовала коллегия, в КГБ был учрежден институт членов Комитета государственной безопасности. Постановлением Совета Министров СССР от 13 марта 1954 г. членами Комитета государственной безопасности при СМ СССР были утверждены: А.С.Панюшкин, П.В.Федотов, Д.С.Леонов, Ф.П.Харитонов и В.П.Доброхотов.

Несколько месяцев спустя постановлением Совета Министров СССР N1134 от 7 июня 1954 г. заместителем Председателя и членом Комитета государственной безопасности при СМ СССР был утвержден П.И.Ивашутин. Таким образом, при организации КГБ всего было введено 5 должностей заместителей Председателя КГБ и 11 должностей (включая Председателя) членов Комитета государственной безопасности при СМ СССР.

Структура Центрального аппарата была объявлена 18 марта 1954 г. приказом КГБ при Совете Министров СССР. В течении марта 1954 г. состоялись и назначения на должности руководителей подразделений Центрального аппарата:

1 Главное Управление (разведка за границей, начальник - А.С.Панюшкин)

2 Главное Управление (контрразведка - П.В.Федотов)

3 Главное Управление (военная контрразведка - Д.С.Леонов)

4 Управление (борьба с антисоветским подпольем, националистическими формированиями и враждебными элементами - Ф.П.Харионов)

5 Управление (контрразведывательная работа на особоважных государственных объектах - П.И.Ивашутин)

6 Управление (контрразведывательная работа на транспорте - М.И.Егоров)

7 Управление (служба наружного наблюдения - Г.П.Добрынин)

8 Главное Управление (шифровально-дешифровальное - В.А.Лукшин)

10 Управление (Управление коменданта Московского Кремля - А.Я.Веденин)

Управление кадров (П.И.Григорьев)

Следственное Управление (вакансия)

1 спецотдел (контрразведывательная работа на объектах атомной промышленности - А.М.Иванов)

2 спецотдел (служба применения опертехники - Г.И.Заболотный)

3 спецотдел (изготовление средств тайнописи, документов для оперативных целей, экспертиза документов и почерков - К.В.Булгаков)

4 спецотдел (радиоконтрразведка - П.Ф.Кузнецов)

5 спецотдел (изготовление средств опертехники - В.К.Белинский)

Отдел "С" (правительственная связь - П.Н.Воронин)

УАО (учетно-архивный отдел - Я.А.Плетнев)

Тюремный отдел (А.П.Клейменов)

ХОЗУ (хозяйственное управление - Т.И.Попов)

ФПО (финансово-плановый отдел - М.А.Зверев)

Мобилизационный отдел (М.И.Гвардейцев)

Управление учебных заведений (Е.И.Борисоглебский)

Бухгалтерия (Главный бухгалтер - В.С.Кузьмичев)

Инспекция при Председателе КГБ при СМ СССР (П.В.Евсюков - с 30 августа 1954 г.)

Секретариат КГБ при СМ СССР (В.П.Доброхотов)

Согласно решению ЦК КПСС, на органы КГБ были возложены следующие основные задачи:

а). ведение разведывательной работы в капиталистических странах;

б). борьба со шпионской, диверсионной, террористической и иной подрывной деятельностью иностранных разведок внутри СССР;

в). борьба с вражеской деятельностью всякого рода антисоветских элементов внутри СССР;

г). контрразведывательная работа в Советской армии и Военно-морском флоте;

д). организация шифровального и дешифровального дела в стране;

Помимо этого в партийном решении была сформулирована и главная задача для КГБ: "В кратчайший срок ликвидировать последствия вражеской деятельности Берия в органах государственной безопасности и добиться превращения органов государственной безопасности в острое оружие нашей партии, направленное против действительных врагов нашего социалистического государства, а не против честных людей."

В 1954 г. произошли следующие изменения в структуре и кадрах Центрального аппарата КГБ при СМ СССР. По распоряжению Совета Министров СССР N10709рс от 25 сентября 1954 г. подразделения правительственной "ВЧ" связи были переданы из МВД СССР в ведение КГБ, где 27 сентября того же года был организован Отдел войск правительственной "ВЧ" связи КГБ при СМ СССР. Его начальником был назначен генерал-лейтенант войск связи П.Ф.Угловский. Вместо назначенного заместителем Председателя КГБ при СМ СССР П.И.Ивашутина, начальником 5 Управления КГБ 8 сентября 1954 г. был назначен И.И.Бетин.

В то же время разворачивается чистка аппарата госбезопасности. Из КГБ увольняют и лишают генеральских званий наиболее одиозных бериевцев. В феврале 1956 И.А.Серов рапортовал ЦК КПСС об увольнении за период с марта 1954 г. 16.000 сотрудников "как не внушающих политического доверия, злостных нарушителей социалистической законности, карьеристов, морально неустойчивых, а так же малограмотных и отсталых работников." А в справке подготовленной к июньскому (1957) Пленуму ЦК КПСС Серов писал, что из КГБ уволено 18 тыс. человек, в том числе "более 2.300 сотрудников за нарушение советской законности, злоупотребление служебным положением и аморальные поступки". Там же сообщалось, что 40 бывших ответственных работников органов госбезопасности были лишены генеральских званий, а из центрального аппарата КГБ было уволено около 2.000 сотрудников, из них 48 являлись начальниками отделов и выше. Как отличительный признак новой кадровой политики, И.А.Серов отмечал: "Заменены почти все руководящие работники главных управлений, управлений и отделов центрального аппарата. На эти должности более 60 человек направлены ЦК КПСС с руководящей партийной и советской работы."

В 1955 г. изменился состав членов Комитета государственной безопасности при СМ СССР. 22 марта членом Комитета государственной безопасности был утвержден М.П.Маляров (начальник Следственного управления КГБ), а А.С.Панюшкин оставивший работу начальника 1 Главного управления КГБ в связи с переходом на партийную работу - на должность председателя комиссии ЦК КПСС по выездам за границу, был 23 июня 1955 г. освобожден от должности члена Комитета государственной безопасности при СМ СССР.

В 1956 г. сменилось руководство 2 Главного Управления КГБ, где вместо П.В.Федотова начальником стал О.М.Грибанов. Соответственно Постановлением Совета Министров СССР 12 апреля 1956 г. О.М.Грибанов был утвержден членом Комитета государственной безопасности при СМ СССР, а П.В.Федотов был был освобожден от этих обязанностей. Некоторое время П.В.Федотов поработал на незначительной должности заместителя редакционно-издательского отдела Высшей Школы КГБ, а в 1959 г. был изгнан из КГБ и лишен генеральского звания за "нарушения социалистической законности" в сталинские годы.

Вместо ушедшего в ЦК КПСС А.С.Панюшкина, новым начальником 1 Главного управления КГБ был назначен А.М.Сахаровский и 11 мая 1956 г. он был введен в члены Комитета государственной безопасности при СМ СССР.

Кроме того, увеличилось число заместителей Председателя КГБ при СМ СССР. 18 января 1956 г. С.С.Бельченко, ранее работавший начальником УКГБ по Ленинградской обл., был назначен заместителем Председателя КГБ при СМ СССР, а 24 января того же года была введена дополнительная вторая должность первого Заместителя Председателя КГБ при СМ СССР и на нее был назначен П.И.Ивашутин. Теперь у Председателя КГБ при СМ СССР было 6 заместителей и среди них 2 первых (К.Ф.Лунев и П.И.Ивашутин).

Обязанности Председателя КГБ и его заместителей по наблюдению за работой подразделений Центрального аппарата КГБ были распределены 25 января 1956 г. следующим образом:

И.А.Серов (Председатель КГБ) - 1 и 2 Главные управления, 1 спецотдел, Инспекция при Председателе КГБ, ФПО и Секретариат КГБ;

П.И.Ивашутин (первый заместитель Председателя КГБ) - 3 Главное управление, Следственное Управление, 5 управление, 2 спецотдел и Моботдел;

К.Ф.Лунев (первый заместитель Председателя КГБ) - 6, 9, 10 управления, Отдел "С" и Отдел войск правительственной "ВЧ" связи;

С.С.Бельченко (заместитель Председателя КГБ) - 4 управление, 6 спецотдел, УАО, ХОЗУ, ВСО;

И.Т.Савченко (заместитель Председателя КГБ) - 7 управление, 3, 4 и 5 спецотделы, Тюремный отдел;

В.А.Лукшин (заместитель Председателя КГБ) - 8 Главное управление;

П.И.Григорьев (заместитель Председателя КГБ по кадрам) - Управление кадров, Управление учебных заведений, Особая инспекция Управления кадров;

В 1957 г. членами Комитета государственной безопасности при СМ СССР были утверждены: 15 марта - Е.П.Питовранов (новый начальник 4 Управления КГБ) и 1 апреля - П.И.Зырянов (начальник ГУПВ переданных из МВД в КГБ). В то же время, ушедший на работу в Главную военную Прокуратуру СССР М.П.Маляров был 11 февраля освобожден от обязанностей члена Комитета государственной безопасности при СМ СССР. Произошли и незначительные изменения в распределении обязанностей в руководстве КГБ при СМ СССР по наблюдению за подразделениями Центрального аппарата (объявлено 19 февраля 1957 г.):

И.А.Серов (Председатель КГБ) - 1 и 2 Главные управления, 1 спецотдел, Инспекция при Председателе КГБ, Секретариат КГБ;

П.И.Ивашутин (первый заместитель Председателя КГБ) - 3 Главное управление, Следственное Управление, 5 управление, 2 спецотдел и Моботдел;

К.Ф.Лунев (первый заместитель Председателя КГБ) - 4, 6, 9, 10 управления, Отдел "С" и Отдел войск правительственной "ВЧ" связи;

С.С.Бельченко (заместитель Председателя КГБ) - ГУПВ, 6 спецотдел, УАО, ФПО, ХОЗУ, ВСО и Центральная бухгалтерия;

И.Т.Савченко (заместитель Председателя КГБ) - 7 управление, 3, 4 и 5 спецотделы, Тюремный отдел;

В.А.Лукшин (заместитель Председателя КГБ) - 8 Главное управление;

В следующем году, 1 августа 1958 г. В.А.Лукшин был освобожден от обязанностей заместителя Председателя КГБ при СМ СССР, сохранив при этом должность начальника 8 Главного управления КГБ, вместо него заместителем Председателя КГБ при СМ СССР был в тот же день утвержден С.Н.Лялин, ранее работавший заместителем начальнка 2 Главного управления КГБ при СМ СССР.

В связи с этим изменилось и распределение обязанностей в руководстве КГБ при СМ СССР по наблюдению за подразделениями Центрального аппарата (объявлено 3 октября 1958 г.):

И.А.Серов (Председатель КГБ) - 1, 2 и 8 Главные управления, 9 управление, Инспекция при Председателе КГБ;

П.И.Ивашутин (первый заместитель Председателя КГБ) - 3 Главное управление, Следственное Управление, 5 управление, 1 спецотдел и Комиссия по аттестации офицерского состава;

К.Ф.Лунев (первый заместитель Председателя КГБ) - 4, 6, 10 управления, Отдел "С", УАО, и работа в Комиссии ЦК КПСС по выездам за границу;

С.С.Бельченко (заместитель Председателя КГБ) - ГУПВ, УВС, Отдел войск правительственной "ВЧ" связи и Моботдел;

И.Т.Савченко (заместитель Председателя КГБ) - 7 управление, ХОЗУ, ВСУ, Тюремный отдел, ФПО, Центральная бухгалтерия;

С.Н.Лялин (заместитель Председателя КГБ) - 2, 3, 4, 5 и 6 спецотделы, Комиссия по технике;

П.И.Григорьев (заместитель Председателя КГБ по кадрам) - Управление кадров, Отдел учебных заведений, Особая инспекция Управления кадров;

Структурные изменения в КГБ при СМ СССР в 1955-58 гг. были незначительны.

В соответствии с постановлением Совета Министров СССР N805-484сс от 26 апреля 1955 г. приказом КГБ при СМ СССР 30 апреля того же года был организован 6 спецотдел (перлюстрация телеграфной и почтовой корреспонденции) КГБ при СМ СССР. Ранее эти функции выполнял 10 отдел 4 Управления КГБ, соответственно упраздненный.

По распоряжению Совета Министров СССР N3569рс от 26 апреля 1955 г. (приказом КГБ при СМ СССР 16 мая 1955 г.) для строительства и капитального ремонта зданий для органов государственной безопасности в составе КГБ при СМ СССР был организован Военно-строительный отдел (несколько позднее преобразованный в Военно-строительное управление - ВСУ).

28 марта 1957 г. Постановлением Совета Министров СССР N328-159сс пограничные войска были переданы в КГБ при СМ СССР. Во исполнение этого решения совместным приказом МВД/КГБ N0017/00161 от 2 апреля 1957 г. войска перешли в ведение КГБ при СМ СССР, где было образовано Главное управление пограничных войск (ГУПВ). Этим же приказом Воено-строительное управление бывшего Главного управления пограничных и внутренних войск МВД СССР также было передано в КГБ при СМ СССР.

Приказом КГБ при СМ СССР от 8 апреля 1957 г. был объявлен штат Управления военного снабжения (УВС) в составе КГБ при СМ СССР.

Важнейшим событием рассматриваемого периода стало принятие "Положения о КГБ при СМ СССР" закрепившего принципы взаимоотношений руководящих органов КПСС и КГБ. Это Положение обсуждалось 23 декабря 1958 г. (Ст.88/19-с) Секретариатом ЦК КПСС и было утверждено Президиумом ЦК КПСС 9 января 1959 г. (П200/XVIII). В тот же день "Положение о КГБ при СМ СССР" было введено в действие постановлением Совета Министров СССР и сохраняло свою силу вплоть до 16 мая 1991 г., пока не был принят Закон СССР об органах государственной безопасности. Однако, в отличие от принятого в 1991 г. Закона, "Положение о КГБ при СМ СССР" было совершено секретным документом доступным лишь высоким руководителям самого КГБ. Приоритетная роль КПСС была сформулирована в 1 и 3 статьях Положения:

В Положении, шире и конкретнее нежели в 1954 г., были сформулированы задачи и обязанности КГБ при СМ СССР и его местных органов:

"а) разведывательная работа в капиталистических странах;

б) борьба со шпионской, диверсионной, террористической и иной подрывной деятельностью иностраных разведывательных органов, зарубежных антисоветских центров и с их агентурой внутри страны;

в) борьба с вражеской деятельностью антисоветских и националистических элементов внутри СССР;

г) контрразведывательная работа в Советской Армии, военно-морском флоте, ГВФ, в пограничных войсках и войсках МВД с целью предупреждения проникновения в их ряды агентуры иностранных разведок и иных вражеских элементов;

д) контрразведывательная работа на специальных объектах, особо важных объектах промышленности и на транспорте;

е) охрана государственных границ Союза ССР.

ж) охрана руководителей Партии и Правительства;

з) организация и обеспечение Правительственной связи;

и) организация радиоконтрразведывательной работы и учет необходимых данных действующих на территории страны ведомственных радиостанций;

к) разработка мобилизационных планов по развертыванию органов госбезопасности и войсковых частей Комитета и выполнение других поручений ЦК КПСС и Правительства Союза ССР."

Помимо прочего в "Положении о КГБ при СМ СССР" было признано необходимым образовать коллегию Комитета госбезопасности в составе заместителей Председателя Комитета, руководящих работников Комитета и местных органов КГБ.

Указом Президиума Верховного Совета СССР 8 декабря 1958 г. И.А.Серов был освобожден от обязанностей Председателя КГБ при СМ СССР. Два дня спустя он был назначен начальником Главного Разведывательного Управления и заместителем начальника Генерального Штаба Вооруженных Сил СССР по разведке.

В решении Президиума ЦК КПСС от 10 декабря 1958 г. новое назначение Серова объяснялось необходимостью "укрепления руководства ГРУ" и говорилось о "сохранении за ним материального содержания получаемого по прежней работе".

После смещения И.А.Серова, исполняющим обязанности Председателя КГБ при СМ СССР стал К.Ф.Лунев. С 10 декабря 1958 г. было установлено временное распределение обязанностей по наблюдению за подразделениями Центрального аппарата КГБ:

К.Ф.Лунев (и.о. Председателя КГБ) - 1, 2 и 8 Главные управления, 9 и 10 управления, Инспекция при Председателе КГБ;

П.И.Ивашутин (первый заместитель Председателя КГБ) - 3 Главное управление, 4, 5 и 6 управления, Следственное Управление, 1 спецотдел и Комиссия по аттестации офицерского состава;

С.С.Бельченко (заместитель Председателя КГБ) - ГУПВ, УВС, Отдел войск правительственной "ВЧ" связи, Моботдел, УАО и Комиссия ЦК КПСС по выездам за границу;

И.Т.Савченко (заместитель Председателя КГБ) - 7 управление, ХОЗУ, ВСУ, Тюремный отдел, ФПО, Центральная бухгалтерия;

С.Н.Лялин (заместитель Председателя КГБ) - 2, 3, 4, 5 и 6 спецотделы, Комиссия по технике;

П.И.Григорьев (заместитель Председателя КГБ по кадрам) - Управление кадров, Отдел учебных заведений, Особая инспекция Управления кадров;

Одной из причин освобождения И.А.Серова от работы в Председателя КГБ при СМ СССР был его ведомственный патриотизм и нежелание идти на серьезное сокращение аппарата КГБ. Еще 10 сентября 1958 г. заведующий Отделом административных органов ЦК КПСС А.С.Желтов подал Хрущеву записку об упрощении и совершенствовании структуры и сокращении штатов Центрального аппарата и периферийных органов КГБ при СМ СССР. Однако этот шаг не встретил понимания у И.А.Серова.

На должность Председателя КГБ при СМ СССР 25 декабря 1958 г. был назначен А.Н.Шелепин, до этого возглавлявший Отдел партийных органов ЦК КПСС по Союзным республикам.

Однако, вскоре Н.С.Хрущев публично поделился идеей "разумного сокращения" КГБ. Выступая 24 февраля 1959 г. перед избирателями он заявил: "Мы и внутренние силы - наши органы государственной безопасности - значительно сократили, да и еще нацеливаемся их сократить..." При этом Н.С.Хрущев объяснял это намерение уверенностью советского руководства в своем народе.(Хрущев Н.С. Мир без оружия - мир без войн. М., 1960. т.1. с.129)

Апрельские предложения А.Н.Шелепина были приняты Президиумом ЦК КПСС (П223/XXIX) 17 июня 1959 г. и оформлены Постановлением Совета Министров СССР N677-305 в тот же день.

23 июня 1959 г. была выпущена серия приказов КГБ при СМ СССР о реорганизации подразделений Центрального аппарата, согласно которым:

- упразднен Тюремный отдел;

- Отдел "С" объединен с Отделом войск правительственной "ВЧ" связи в единый Отдел правительственной связи (ОПС).

25 июня 1959 г. приказом КГБ при СМ СССР были утверждены новые штаты и структура 9 Управления, в состав которого вошло бывшее 10 Управление.

2 июля 1959 г. приказом КГБ при СМ СССР на базе 2, 3, 4, 5 и 6 спецотделов было создано Оперативно-техническое управление (ОТУ). Начальником ОТУ КГБ при СМ СССР 25 августа 1959 г. был назначен С.Н.Лялин.

Также в июне - июле 1959 г. были реализованы и остальные предложения А.Н.Шелепина одобренные Президиумом ЦК КПСС:

- 1 спецотдел был включен в состав 5 Управления КГБ;

- Центральная бухгалтерия была объединена с ФПО;

- ВСУ и УВС были включены в состав ХОЗУ.

Постановлением Совета Министров СССР от 16 сентября 1959 г. было признано необходимым создать в КГБ при СМ СССР Коллегию в составе 11 человек. Персонально в нее вошли:

Шелепин А.Н. - Председатель Коллегии (Председатель КГБ при СМ СССР)

Белоконев В.С. (начальник УКГБ по г. Москве)

Грибанов О.М. (начальник 2 Главного управления)

Зырянов П.И. (начальник ГУПВ)

Ивашутин П.И. (первый заместитель Председателя КГБ при СМ СССР)

Лялин С.Н. (начальник ОТУ)

Никитченко В.Ф. (Председатель КГБ при СМ Украинской ССР)

Перепелицын А.И. (заместитель Председателя КГБ при СМ СССР)

Сахаровский А.М. (начальник 1 главного управления)

Тикунов В.С. (заместитель Председателя КГБ при СМ СССР)

Шумилов В.Т. (начальник УКГБ по Ленинградской обл.)

Ликвидация ряда подразделений и сокращение количества заместителей Председателя КГБ существенно изменили распределение обязанностей по наблюдению за управлениями и отделами Центрального аппарата КГБ при СМ СССР. С 31 августа 1959 г. был установлен следующий порядок:

А.Н.Шелепин (Председатель КГБ) - 1 и 2 Главные управления, 9 управление, Секретариат КГБ, Группа при Председателе КГБ по изучению и обобщению опыта работы органов госбезопасности и данных о противнике;

П.И.Ивашутин (первый заместитель Председателя КГБ) - 3 и 8 Главные управления, 5 управление, ОТУ, ГУПВ, участие в комиссии по гражданству;

В.С.Тикунов (заместитель Председателя КГБ) - 4 и 7 управления, Следственное управление, Управление кадров, отдел учебных заведений, участие в комиссии по помилованию;

А.И.Перепелицын (заместитель Председателя КГБ) - 6 управление, ХОЗУ, ОПС, УАО, ФПО, Моботдел, участие в комиссии по выездам за границу.

В 1960 г. произошло дальнейшее сокращение структуры КГБ при СМ СССР. Постановлением Совета Министров СССР от 5 февраля 1960 г. "О внесении изменений в структуру КГБ при СМ СССР и его органов на местах и сокращении их штатной численности" были упразднены 4, 5 и 6 управления, а их функции и кадры переданы в состав 2 Главного управления КГБ СССР. Кроме этого был понижен статус 3 Главного управления и Следственного управления, они стали именоваться соответственно 3 Управлением и Следственным отделом. Также был упразднен отдел учебных заведений Управления кадров. В приказе КГБ от 11 февраля 1960 г. объявившем Постановление Совета Министров СССР об изменении структуры говорилось:

В русле хрущевских установок, далее в приказе говорилось, что изменение структуры учитывает и "исключительно благоприятную внутриполитическую обстановку в нашей стране".

В результате проведенных преобразований структура Центрального аппарата КГБ при СМ СССР в марте 1960 г. приобрела следующий вид:

1 Главное Управление (разведка за границей, начальник - А.М.Сахаровский)

2 Главное Управление (контрразведка - О.М.Грибанов)

3 Управление (военная контрразведка - А.М.Гуськов)

7 Управление (наружное наблюдение и охрана дипкорпуса - В.И.Алидин с 9 января 1960 г.)

8 Главное управление (шифровально-дешифровальное - В.А.Лукшин)

9 Управление (охрана руководителей партии и правительства - Н.С.Захаров)

ОТУ (оперативно-техническое управление - С.Н.Лялин)

Управление кадров (П.И.Васильев)

Следственный отдел (Н.Ф.Чистяков)

УАО (учетно-архивный отдел - (А.В.Прокопенко)

ГУПВ (Главное управление пограничных войск - П.И.Зырянов)

ХОЗУ (Хозяйственное управление - И.И.Солодилов с 29 февраля 1960 г.)

ОПС (Отдел правительственной связи - П.Н.Воронин)

ФПО (Финансово-плановый отдел - П.В.Зайцев)

Мобилизационный отдел (М.И.Гвардейцев)

Секретариат КГБ (В.М.Беляков)

Группа при Председателе КГБ при СМ СССР по изучению и обобщению опыта работы органов госбезопасности и данных о противнике (Т.Н.Бескровный)

Эта структура оставалась неизменой вплоть до середины 60-х годов. В дальнейшем из 2 Главного управления вновь были выделены: в 1967 г. - 5 Управление (борьба с идеологической диверсией), в 1981 году - 4 Управление (контрразведывательная работа на транспорте) и в 1982 г. - 6 Управление (контрразведывательная работа в сфере экономики).