Ett tiotal personer, kanske fler, rapporteras saknade.
Kustbevakningen har efter förlisningen lyckats ta hand om tolv personer, varav några barn. Bara två av de räddade hade flytväst.
Båten färdades troligen från Turkiet med Italien som mål, rapporterar statlig tv i Grekland. Båten drabbades av motorhaveri och sjönk.
Uppgifterna skiftar om hur många som verkligen befann sig ombord. Enligt kustbevakningen kan det röra sig mellan 30 och 50 personer. Bland de räddade fanns egyptiska, irakiska och syriska nationaliteter.
Ett stort antal räddningsfartyg, handelsfartyg och helikoptrar deltog i insatsen, som inleddes sent på tisdagen efter rapport om sjönöd.
Hittills i år har omkring 8 500 asylsökande tagit sig till Grekland.