昭和８年に開発され、同年１２月に試製砲が完成、試験が終了して仮制式が制定されたのは昭和１１年２月である。単肉自緊砲身、自動開閉式の閉鎖機等当時としては最新式の火砲であった。

後継機種の一式機動４７ミリ砲の開発と配備が順調に進み、４７ミリ砲が対戦車戦闘の主力となっていれば何の問題も無かったが、４７ミリ砲の配備は遅々として進まず、最後まで３７ミリ砲が対戦車戦の主力となってしまった所に悲劇があった。

この砲は分類上は対戦車砲ではあるが、
制式名称は九四式三七ミリ砲である。