高雄憲兵分隊部前身為1944年高雄州商工經濟會成立的「高雄州商工獎勵會館」，含塔樓在內為高5層樓之建築，位於舊高雄市政府斜對面，可說是當時高雄市區最高之建築，戰後國民政府接收，初期作為高雄憲兵分隊部，之後又改為陸軍服務社，充作軍人旅宿之用， 1980年代拆除改為公園，今已不存。二二八事件期間，高雄憲兵隊激化了高雄二二八事件的發展。

二二八事件發生之初，陳儀即下令要塞司令等地方軍事首長部署防範。高雄要塞司令彭孟緝在3月3日即完成必要部署。3日早上即有約30名裝備機關槍之軍隊進入市區。當日傍晚，發生了民眾毆打高雄市警局局長童葆昭與專賣分局長宓如卓等人，並焚毀市警局汽車，以及包圍憲兵隊等事件，市區氣氛極為緊張。

翌日（4日）憲兵於頂樓架設機關槍俯瞰高雄市區，並有軍人在市區開槍，致市民死傷，全市情勢緊迫。在此情況下，市長黃仲圖委託聯合國善後救濟總署官員薛禮同（A. J. Shackleton），前往協助跟軍方談判「停火」。談判地點是市府斜對面的憲兵分隊部。當時在建築物頂端有多名士兵手持來福槍與機關槍森嚴戒備。在薛禮同到達前，曾有兩名臺灣人先後試圖勸說憲兵分隊，但第一個被擊傷，第二個則被打死。薛禮同從市政府前往數百碼之遙的憲兵分隊部時，曾遭士兵用槍瞄準。會談時雙方情緒都非常緊張，且因語言問題，過程並不順利。這時忽然外面傳來一陣來福槍與機關槍聲，裡面的人慌忙逃避，等安靜之後，薛禮同大膽走到外面探查究竟，但並沒有看到有任何民眾企圖攻擊憲兵隊之跡象，反而看到一名臺灣女子，被打中大腿。而也因為這場槍擊事件，使得談判終止。不過對於上述的談判事件，在彭孟緝給陳儀的「寅微（5）戌參電」卻報告說：「事變日益擴大，竟公舉代表至憲兵隊威脅繳槍，經許隊長拒絕。支（4日）晚圍攻該隊，竟夜不逞，晨突圍集結本部。」彭孟緝與薛禮同的說法大相徑庭。

因談判未果，當日召開市民代表大會，決定對策，大會派遣黃仲圖、陳啟川、林建論3名代表，於下午2時驅車前往向高雄要塞司令部，與司令部及憲兵隊兩代表談判，要求軍警即時撤回營房，而民眾即冷靜不再起事。然而當日彭孟緝則以「因良莠分別，撲滅困難。」為由，向陳儀請示進一步「有效解決」的方法，鎮壓之箭已在絃上，勢在必行。

當時憲兵分隊部位居高雄市區樞紐，居高臨下監控市區，對於鄰近的市政府動靜，其實瞭若指掌。3月6日下午二時，彭孟緝突然藉口有刺客與市政府、憲兵隊、火車站等被暴徒佔據為由，而發動了市區全面性鎮壓，之後並進行大逮捕。記者謝有用曾回憶被抓到陸軍服務社，遇見楊金虎的情形。隔日審問時軍方宣稱楊金虎「私藏武器」，並拿竹棍打楊金虎。楊金虎對憲兵說「蔣主席勝利前夕發表演說要對敵人以德報怨...現在外省同胞糟蹋本省同胞，本省人被外省人欺侮，居然是以『竹』報怨」（臺語德、竹同音），結果憲兵對他說「楊先生，你不要『竹』，換『柴』的！」就拿日軍遺留下的木槍槍托將其打到全身腫脹，當晚無法仰睡或臥睡，只好趴睡到天亮。

二二八事件期間，高雄憲兵分隊部不只扮演刺激事件發展之地點，同時也成為彭孟緝發動鎮壓之藉口與工具。