Amerikanske kommandosoldater krænkede Libyens suverænitet, da de pågreb den formodede gruppeleder fra et blodigt angreb på det amerikanske konsulat i Benghazi i 2012.
Det siger Libyens udenrigsministerium i en fordømmelse af Washingtons operation.
De amerikanske specialstyrker gennemførte den hemmelige og længe planlagte operation søndag om natten og anvendte Stealth fly, der ikke kan spores på radarskærme.
De libyske myndigheder fik først en orientering efter tilfangetagelsen af den mistænkte, Ahmed Abu Khatallah, der vil blive retsforfulgt i USA.
Den amerikanske operation opfattes i Washington som en sejr for Obama-administrationen.
Libyens justitsminister, Saleh al-Marghani, siger, at den mistænkte bør sendes tilbage til Libyen og retsforfølges der.
- Regeringen fordømmer denne beklagelige krænkelse af Libyens suverænitet, siger en talsmand for udenrigsministeriet i Tripoli.
- Der er allerede udstedt en arrestordre på Abu Khatallah, og Tripoli vil kræve ham udleveret, siger libyske embedsmænd.
I et brev til FN's Sikkerhedsråd har USA ifølge Reuters sagt, at den pågrebne havde planlagt flere angreb på amerikanere, hvilket retfærdiggør den militære operation.
USA's FN-ambassadør, Samantha Power, skriver til Sikkerhedsrådet, at efterretningsoplysninger viser, at Ahmed Abu Khatallah fortsatte med at planlægge angreb mod amerikanske statsborgere.
- Vi handlede i overensstemmelse med vor ret til selvforsvar, hedder det i brevet fra Power.
Den gruppe, som Ahmed Abu Khatallah siges at være leder for, dræbte fire amerikanere under angrebet på konsulatet - deriblandt den amerikanske ambassadør.
Nedskydningen af ambassadøren og de tre øvrige førte efterfølgende til et republikansk stormløb på præsident Barack Obama og hans daværende udenrigsminister, Hillary Clinton.
Republikanerne har insisteret på at komme til bunds i sagen og anklaget regeringen for at være skødesløs med sikkerheden for amerikanske diplomater og for at have løjet om forløbet.
Det har de forsøgt at påvise i høringer i Kongressen, og emnet er konstant dukket op igen.
/ritzau/Reuters