日耳曼人，自称德意志人，与凯尔特人、斯拉夫人并称为古代欧洲三大“蛮族”之一，据说最早生活在斯堪的纳维亚半岛，也有说最早在东欧平原及中欧的广大地区，是一个游猎畜牧的族群，勇敢强悍，长期过着原始公社制生活。
公元2-4世纪，在蒙古高原的匈奴人被汉朝打败，向西迁徙，由此引起了多米诺效应。匈奴人自东向西到达黑海北岸地区，从而迫使大批日耳曼人西迁至多瑙河以北、莱茵河以东、维斯瓦河以西的中欧平原。不过在此期间，仍有少量日耳曼人居住在伏尔加河流域和顿河流域。
1762年，叶卡捷琳娜二世发动政变，成为俄国的女沙皇，她本是出身于德意志地区斯德丁（今波兰什切青）的公主，1745年，与彼得三世结婚。叶卡捷琳娜二世继位后，以免除兵役等优惠措施鼓励欧洲人移居俄罗斯（犹太人除外）垦荒，同时也是为了在俄罗斯与东部彪悍的游牧民族之间建立一个缓冲地区。
此时，西欧掀起工业革命浪潮，这时候的德意志仍然四分五裂，诸侯割据。这种状况不利于资本主义自由经济的发展，在“同胞”女沙皇的号召下，大量德意志人迁徙至俄国，主要集中在伏尔加流域；同时一些德意志企业家也把目光投向统一的沙皇俄罗斯，因为这个国家虽然处于相对落后的农奴制，但毕竟有统一的市场，而且还有日耳曼同胞居住。
优惠条件和高额利润，吸引了大量日耳曼人定居沙俄。到了20世纪初，已经有了几十万人。日耳曼人的民族凝聚力很强，他们始终保持着日耳曼人的生活方式，他们之间坚持讲德语，而且绝大多数人仍然信奉天主教，而不是追随俄罗斯改宗东正教。加入俄罗斯籍的人也坚持不和俄罗斯人通婚。
十月革命之后，新政权承认日耳曼为一个少数民族。1918年10月，在在日耳曼人聚居的伏尔加河流域建立了伏尔加河德意志人劳动公社，又称伏尔加河德意志人自治州。到了1924年1月6日，苏联同意其升格为“伏尔加德意志人苏维埃社会主义自治共和国”，面积28212平方公里，人口558900人，首府是恩格斯城（今波克罗夫斯克）。
好景不长，1941年6月苏联卫国战争爆发后的两个月，苏联政府宣布所有德国人都是苏联的敌人。斯大林担心境内日耳曼人起来呼应，将该地区的40余万日耳曼人和生活在苏联其他地区的近40万日耳曼人集中起来，以“社会危险分子”的名义将他们“迁移”或“放逐”到远离苏联核心地区的中亚两个加盟共和国哈萨克苏维埃社会主义共和国、吉尔吉斯苏维埃社会主义共和国以及西伯利亚阿尔泰地区，并且剥夺了他们的苏联公民权；同年8月11日，苏联政府颁布法令，宣布撤销“日耳曼苏维埃社会主义自治共和国”和分布在苏联其他地区的17个日耳曼民族自治区（其中6个在俄罗斯，9个在乌克兰，阿塞拜疆和格鲁吉亚各一个）。该共和国的土地并入萨拉托夫州。
二战结束后，纳粹德国战败，其领土东普鲁士地区的柯尼斯堡州被苏联合并，成为俄罗斯的一个州——加里宁格勒州。祖祖辈辈生活在这里的日耳曼人也有数万被迁移到了中亚哈萨克地区。根据1971年《苏维埃哈萨克》杂志公布的统计结果，苏联的日耳曼人主要集中居住在两个地方：一个是哈萨克苏维埃社会主义共和国，有85.5万人，占全苏联日耳曼人总数的46%；另一个是俄罗斯联邦的边疆区，有76.1万人，占41%。
冷战时期，德意志联邦共和国（西德）政府一直关注在苏联的日耳曼人境况。1955年9月，联邦德国总理阿登纳在访问莫斯科时，向苏联领导人表达了对生活在苏联境内的日耳曼同胞命运的不安。为了缓和两国关系，苏联政府于同年12月颁布法令，恢复了苏联日耳曼人的公民权。1958年苏联同联邦德国签署了被称为“家庭团聚”的领事协议，规定在1940年前尚未加入苏联国籍的日耳曼人及其子孙，有权申请移居联邦德国。但是，由于东西方对抗的加剧，特别是“柏林危机”的影响，这一协议被搁置起来。
1969年勃兰特就任联邦德国总理后，开始推行“新东方政策”，欧洲的紧张局势得到缓和。在此背景下，“家庭团聚”协议开始实施，但直到1976年，离开苏联的日耳曼人仅有3万左右。许多日耳曼人不愿离开苏联的一个重要原因是：他们的祖先已在俄罗斯生活了两个多世纪，他们认为自己同德国早已不再有什么关系，在他们看来，返回伏尔加“故乡”才是他们最大的心愿。这种情绪在被迁徙到中亚哈萨克地区的日耳曼人中表现得尤为强烈。据统计，目前生活在哈萨克斯坦的日耳曼人有100万，是独联体各国中人数最多的。
进入90年代后，德国统一与苏联的解体，强烈的民族认同感促使前苏联日耳曼人的思想发生了巨大变化，越来越多的人现在感到只有德国——这个令他们既陌生又向往的“祖国”，才是他们真正的归宿。这成为俄罗斯、哈萨克斯坦与德国之间的新问题。
