Gampong Rukoh berada di bawah Kemukiman Tengku Chik Dilamnyong Kecamatan Syiah Kuala Kota Banda Aceh, yang pada mulanya berada di Kabupaten Aceh yang bermukiman Silang Cadek. Menurut penuturan orang-orang tua dulu bahwa Gampong Rukoh adalah sebagai tempat lahan/area persawahan, perkebunan dan perikanan warga dari penduduk luar.

Penduduk dasar Gampong Rukoh hanya terdapat dibeberapa titik-titik tertentu saja, dengan mata pencaharian sebagai petani, perkebunan dan pedagang. Terbentuknya Pemerintah Gampong Rukoh pada jauh sebelum Indonesia Merdeka, yang pada mulanya hanya terdiri dari beberapa kepala keluarga dan seiring dengan berjalannya waktu warga masyarakat terus berdatangan dari berbagai tempat yang sedikit demi sedikit terus memenuhi pemukiman, sehingga pertambahan penduduk terus meningkat untuk mengisi setiap lahan-lahan kosong yang ada di Gampong Rukoh