В 1966 году он составил сборник под названием «Белая книга» по делу писателей Андрея Синявского и Юлия Даниэля. Гинзбург лично принёс пятый экземпляр машинописной рукописи в приёмную КГБ СССР на Кузнечном мосту с предложением обменять публикацию книги на досрочное освобождение Синявского и Даниэля. Затем «Белая книга» была разослана во многие официальные инстанции СССР, депутатам Верховного Совета СССР,
и в конце концов опубликована за границей.
В 1967 году Гинзбург был осужден по статье 70 УК РСФСР («Антисоветская агитация и пропаганда») на 5 лет лагерей. Наказание отбывал в мордовском политическом лагере в поселке Озерный. После освобождения поселился в подмосковном городе Таруса, так как по советским законам мог жить
не менее чем за 100 километров от Москвы.
3 февраля 1977 года по решению высшего политического руководства СССР
в рамках кампании по пресечению Хельсинкского движения в стране, Гинзбурга в числе других активистов хельсинкских групп арестовали.
13 июля 1978 года за антисоветскую пропаганду Гинзбург был приговорён к восьми годам лишения свободы в колонии особого режима. Освобождён был
27 апреля 1979 года.
В 1979 году в результате переговоров на высшем уровне между СССР и США Александр Гинзбург вместе с ещё четырьмя другими политзаключёнными — Эдуардом Кузнецовым, Марком Дымшицем, Георгием Винсом и Валентином Морозом — был обменян на двух граждан СССР — сотрудников КГБ Черняева
и Энгера, осуждённых в США за шпионаж в пользу СССР на срок по 50 лет тюремного заключения каждый.
Оказавшись за границей, Гинзбург сначала жил в США, потом во Франции.
Жил в Париже с женой Ариной Жолковской-Гинзбург и двумя детьми. Руководил Русским культурным центром в Монжероне, затем, с середины 1980-х годов и до октября 1997 года работал в качестве обозревателя газеты «Русская мысль».
В «Русской мысли» Гинзбург делал еженедельные, обычно на две полосы, обзоры под названием «Хроника текущих событий». Его супруга Арина была заместителем главного редактора.
Скончался на 66-м году жизни 19 июля 2002 года в Париже.
Похоронен на кладбище Пер-Лашез.