En säkerhetskälla säger till nyhetsbyrån AFP på söndagen att "150 personer var ombord på fartyget som sjönk" medan en annan källa säger att "eftersökningar pågår".
Abdusattor Esoev, chef för FN:s migrationsorganisation (IOM) i Jemen, säger till nyhetsbyrån AP att 68 personer hittats döda och att 74 saknas. Totalt fanns 154 etiopier ombord och bara tolv har överlevt.
De dödas kroppar har förts till olika bårhus i området.
Esoev säger att alla de saknade antas vara döda.
Provinsens säkerhetsdirektorat skriver i ett uttalande att säkerhetsstyrkorna "för närvarande genomför en stor operation för att bärga kropparna av ett betydande antal etiopiska migranter som drunknade utanför Abyans kust när de försökte illegalt ta sig in på jemenitiskt territorium".
”Många kroppar”
"Många kroppar har hittats på olika stränder, vilket tyder på att ett antal offer fortfarande saknas till sjöss", fortsätter uttalandet.
Abyan sträcker sig i nordostlig riktning från hamnstaden Aden.
Det är oklart vad som orsakat händelsen. Men sjöfarten i området är plågad av flera säkerhetsmässiga utmaningar. Simkunnigheten är låg och ofta saknar båtar och fartyg grundläggande säkerhetsutrustning.
Dessutom tar nätverken som smugglar människor i den konflikthärjade regionen generellt sett stora risker i sin verksamhet.
Vidare attackerar både pirater och de Iranstödda Huthirebellerna ofta fartyg som rör sig i farvattnen utanför Jemens kust.
Tiotusentals åker
Trots kriget som har härjat Jemen sedan 2014 har den irreguljära migrationen via det fattiga landet fortsatt, särskilt från Etiopien, som också har härjats av etniska konflikter.
Hundratals av dem som riskerat resan har hittats drunknade i havet medan ännu fler saknas.
2023 anlände 97 200 migranter till Jemen, enligt IOM. I fjol minskade det till 60 000, sannolikt för att patrulleringen i farvattnen ökat.
Det som lockar är drömmen om jobb i Saudiarabien och Förenade arabemiraten, där många arbetare från Afrika och södra Asien finns. Andra tänker sig området som en språngbräda vidare ut i världen.
Enligt FN har tiotusentals migranter som utsatts för övergrepp under sina resor även blivit kvar i Jemen.
