奥匈帝国作为19世纪下半叶的欧洲强国，在天津设置领事馆要始于清同治八年（1869），但直至光绪二十五年（1899），奥匈帝国驻天津领事一直由英国驻天津领事兼任。光绪二十六年（1900），庚子事变爆发，奥匈帝国出兵由天津大沽口登陆进犯北京，这才开始派出首任驻天津领事。光绪二十八年（1902），正式划定天津奥租界，并着手修建领事馆。至光绪三十四年（1906），奥匈帝国领事馆建成并投入使用。
1923年4月，这座建筑被以白银四万三千零七十九两的价格全部售予“天津县纪锦斋名下管业”。1945年初，又被卖到永义公司名下。这其间，又多次进行了曾建和改造。1976年唐山大地震中，两座洋楼建筑墙面、地面均受损严重，海河边的院落震损，一座建筑在地震后被拆除，保留下来的是其沿建国道一侧的西式二层楼。至2003年在海河东路拆迁改造过程中，这座旧址才被意外发现，并得到保护和修缮。
