AA Efhar berawal dari Lembaga Kursus Hitung Dagang dan Tata Buku. Lembaga kursus tersebut pada awalnya berlokasi di Jl. Indraprasta Semarang. Namun seiring dengan perkembangan dunia pendidikan dan dunia kerja maka lembaga kursus tersebut mengalami perkembangan dengan meningkatkan statusnya menjadi Akademi Akuntansi Effendiharahap Semarang yang saat ini terletak di pusat kota Semarang, yaitu di kawasan Simpang Lima, Semarang. Akademi Akuntansi Effendiharahap Semarang mulai menjalankan fungsinya sebagai sebuah perguruan tinggi sejak tahun 1999 yang ditandai dengan terbitnya Surat Keputusan Menteri Pendidikan dan Kebudayaan Republik Indonesia Nomor 120/D/O/1999 tentang Ijin Pendirian Akademi Akuntansi Effendiharahap Semarang.

AA Efhar di bawah Yayasan Pendidikan Effendiharahap (YAPEHAR) yang dipimpin oleh Prof. Dr. Pahlawansjah Harahap sebagai ketua yayasan. Pada tahun 2018 telah melakukan akreditasi prodi dengan hasil B (No SK 2981/SK/BAN-PT/Akredd/Dipl III/X/2018).