http://IP_адрес_сервера/phpmyadmin/setup/

Это скрипт создания конфигурационного файла phpMyAdmin.

При заходе в каталоге setup не должно быть запроса на имя пользователя и пароль. Как выглядит этот запрос?

phpMyAdmin работает только с данными авторизации MySQL, поэтому root и его пароль должны быть именно от MySQL.

Это означает, что доступ к каталогу /phpmyadmin/setup/ закрыт с помощью .htaccess. Какие данные надо ввести для доступа я даже не знаю. Попробуйте посмотреть документацию Ubuntu на этот счет.

Не знаю куда надо этот файл кидать, просто авторизация может быть прописана либо в файле .htaccess, либо напрямую в конфигурационном файле Apache.

Можно попробовать найти конфигурационный файл с текстом "phpMyAdmin Setup" - там и будет директива закрывающая каталог setup.

отключите заремив строки #

# Authorize for setup
<Directory /usr/share/phpmyadmin/setup>
    <IfModule mod_authn_file.c>
    AuthType Basic
    AuthName "phpMyAdmin Setup"
    AuthUserFile /etc/phpmyadmin/htpasswd.setup
    </IfModule>
    Require valid-user
</Directory>

и перегрузите апаче либо сгенерите файл htpasswd.setup
с извесным Вам логином и паролем, и авторизуйтесь под ним, в данном случае у вас логин admin а пароль не знаю смотрите в документации может он пустой а может тоже admin.
Вам обязательно нужна папка setup? Она для наглядности составления конфиг файла после её надо удалить из каталога для безопасности, составьте файл конфигурации вручную.

Спасибо. Разместите файл config.inc.php в корне папки phpadmin, удалите папку /setup настройки конфигурации файла описаны в статье: http://php-myadmin.ru/learning/instrument-pma.html
Например:

<?php
  $i = 0;
  $i++;
  $cfg['Servers'][$i]['host'] = 'localhost';
  $cfg['Servers'][$i]['extension'] = 'mysqli';
  $cfg['Servers'][$i]['connect_type'] = 'tcp';
  $cfg['Servers'][$i]['compress'] = false;
  $cfg['Servers'][$i]['auth_type'] = 'config';
  $cfg['Servers'][$i]['user'] = 'root';
  $cfg['Servers'][$i]['password'] = 'пароль'; /* Пароль пользователя root. */
  $cfg['Servers'][$i]['controluser'] = 'pma'; /* Имя созданного вами только что пользователя для доступа к расширенным таблицам. */
  $cfg['Servers'][$i]['controlpass'] = 'пароль'; /* А здесь его пароль. */
  $cfg['Servers'][$i]['pmadb'] = 'phpmyadmin';
  $cfg['Servers'][$i]['bookmarktable'] = 'pma_bookmark';
  $cfg['Servers'][$i]['relation'] = 'pma_relation';
  $cfg['Servers'][$i]['table_info'] = 'pma_table_info';
  $cfg['Servers'][$i]['table_coords'] = 'pma_table_coords';
  $cfg['Servers'][$i]['pdf_pages'] = 'pma_pdf_pages';
  $cfg['Servers'][$i]['column_info'] = 'pma_column_info';
  $cfg['Servers'][$i]['history'] = 'pma_history';
  $cfg['Servers'][$i]['tracking'] = 'pma_tracking';
  $cfg['Servers'][$i]['designer_coords'] = 'pma_designer_coords';
?>

все возможные директивы конфигурирования Вы можете прочесть по русски в статье http://php-myadmin.ru/doc/config.html
или по английски в статье на оф сайте http://www.phpmyadmin.net/documentation/

1) где искать эту папку setup
У Вас же путь к ней написан -> /usr/share/phpmyadmin/setup
2) где лежит многострадальный .htaccess для phpmyadmin
в корне /usr/share/phpmyadmin/ но его может там и не быть а заданы директивы у Вас в конфигах.

Для сервера я б рекомендовал OS FreeBSD в режиме консоли без X-ов установку.
Оф сайт: http://www.freebsd.org/ru/

У вас его нету потому что все прописано в /etc/phpmyadmin/apache.conf - что является подключаемым конфигурационным файлом Apache.

Такая строка в файле /etc/phpmyadmin/htpasswd.setup является временной заглушкой безопасности и после установки предполагается, что вы воспользуетесь программой htpasswd на сервере для генерации пароля.

Если конфигурационный файл phpMyAdmin будете создавать вручную, то каталог /usr/share/phpmyadmin/setup вообще можно удалить вместе с файлом /etc/phpmyadmin/htpasswd.setup.

а если не в ручную то воспользуйтесь htpasswd и сгенерите в файл /etc/phpmyadmin/htpasswd.setup пару логин : пароль и авторизуйтесь им запросив на http сервере /setup и следуйте его подсказкам.

команда для создания пары логин пароль :
htpasswd /etc/phpmyadmin/htpasswd.setup pma
* pma имя для примера затем попросит ввести пароль введите запомните и затем авторизуйтесь под ними в каталог /setup

Статья в WiKi об htpasswd - http://ru.wikipedia.org/wiki/.htpasswd

1-конфиг файл должен быть 1 и находиться в корне /etc/phpmyadmin/
2-достаточно удалить папку и все.. но стоит убрать и мусор упоминания о ней в конфиге.
3-если pma установлен на сервере только для администратора сервера то возможно стоит вместо папки setup в /etc/phpmyadmin/apache.conf указать корень /etc/phpmyadmin и для безопасности продублировать ещё и http авторизацией, сгенерив себе пару логин пароль как писал выше.