Mungkin tidak ramai yang mengetahui tentang sejarah masjid ini. Masjid Kapitan Keling adalah terletak di Jalan Masjid Kapitan Keling atau dahulunya dikenali sebagai Pitt Street. Masjid ini telah dibina oleh pedagang-pedagang India Muslim sekitar tahun 1800.
Pada asalnya, masjid ini mempunyai tapak seluas 18 ekar yang diperuntukkan untuk komuniti India Muslim di Pulau Pinang oleh Gabenor Pulau Pinang iaitu Sir George Leith pada November 1801.
