Ou mais explicitamente:
who | grep usuario 2>/dev/null >/dev/null
No caso do if proteja as variáveis com aspas:
if [ "$?" = "0" ]
then
echo "logado"
else
echo "não logado"
fi
ou para ser mais didático use o comando test completo:
if test "$?" = "0"
then
echo "logado"
else
echo "não logado"
fi