Както казаха и двамата коментиращи по-горе.

1. Можете да използвате свойството .Tag на PictureBox.

Когато искате да зададете някаква информация на PictureBox за задържане, просто направете това

String info = "MyInfo"; 
pictureBox1.Tag = (object)info;

Забавното е, че тъй като .Tag е object, можете да поставите всичко в свойството .Tag. Така че можете да създадете персонализиран клас, пълен с информация, и да го присвоите на .Tag

За да извлечете информацията, трябва да се уверите, че стойността .Tag е от същия тип, който сте й присвоили, така че следвайки горния пример

if(pictureBox1.Tag is String)
{
    String info = (String)pictureBox1.Tag;
}

2. Другата опция, която имате, е да разширите класа PictureBox и да добавите публични свойства към класа.

class PictureBoxEx : PictureBox
{
    public String info { get; set; }

    public PictureBoxEx()
    {
    }
}

След това намерете дефиницията на вашия PictureBox обект, както е сега, и просто променете неговия тип от PictureBox на PictureBoxEx и всичко трябва да е същото, освен че сега вашата PictureBoxEx препратка има публичното поле info.

1) Можете да създадете свой собствен производен клас, както е посочено по-горе.

2) Можете временно да промените името на контролата.

3) Можете да го съхраните някъде другаде (може би настройки).

Просто бих добавил свойството към pictureBox.