位於吉貝嶼港口東西側的大型鐘缽和木魚石塔，並非普通建築，而是用來鎮守吉貝的石敢當，通稱「東鐘西叩」。

澎湖的石敢當就像金門的風獅爺，都是海島居民發展出的獨特信仰象徵，由於四面環海，冬季有長達半年的東北季風，且土壤貧瘠不利農耕，先天條件不佳，加上早年瘟疫流行，先民認為是邪煞導致，為祈求平安，澎湖石敢當文化便因此誕生。石敢當有塔、石碑或符狀等形式，通常設置在村里四周、海邊、山坡、路沖等地方，不僅是澎湖人的生活信仰，也是在地的文化特色。

吉貝嶼港口這兩座石敢當，傳說是觀音菩薩顯靈，託夢指示村中耆老建造，用來守護居民並加速當地的繁榮。於是在港口東側，被稱為「龍馬」的地方，建造黃色磐缽石塔，西側則建造紅色木魚石塔，並分別在石塔旁的岩石上寫著「東方龍馬壯山河」和「西境海雲飛日月」的詞句，以彰顯吉貝的精神。兩座石敢當也正好對應島上觀音寺的「暮鼓」和「晨鐘」，成為吉貝重要文化資產。