sys/powerpc/powerpc/altivec.c

   1 /*-
   2  * SPDX-License-Identifier: BSD-4-Clause
   3  *
   4  * Copyright (C) 1996 Wolfgang Solfrank.
   5  * Copyright (C) 1996 TooLs GmbH.
   6  * All rights reserved.
   7  *
   8  * Redistribution and use in source and binary forms, with or without
   9  * modification, are permitted provided that the following conditions
  10  * are met:
  11  * 1. Redistributions of source code must retain the above copyright
  12  *    notice, this list of conditions and the following disclaimer.
  13  * 2. Redistributions in binary form must reproduce the above copyright
  14  *    notice, this list of conditions and the following disclaimer in the
  15  *    documentation and/or other materials provided with the distribution.
  16  * 3. All advertising materials mentioning features or use of this software
  17  *    must display the following acknowledgement:
  18  *      This product includes software developed by TooLs GmbH.
  19  * 4. The name of TooLs GmbH may not be used to endorse or promote products
  20  *    derived from this software without specific prior written permission.
  21  *
  22  * THIS SOFTWARE IS PROVIDED BY TOOLS GMBH ``AS IS'' AND ANY EXPRESS OR
  23  * IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE IMPLIED WARRANTIES
  24  * OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE ARE DISCLAIMED.
  25  * IN NO EVENT SHALL TOOLS GMBH BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL,
  26  * SPECIAL, EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT NOT LIMITED TO,
  27  * PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES; LOSS OF USE, DATA, OR PROFITS;
  28  * OR BUSINESS INTERRUPTION) HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY,
  29  * WHETHER IN CONTRACT, STRICT LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR
  30  * OTHERWISE) ARISING IN ANY WAY OUT OF THE USE OF THIS SOFTWARE, EVEN IF
  31  * ADVISED OF THE POSSIBILITY OF SUCH DAMAGE.
  32  *
  33  *      $NetBSD: fpu.c,v 1.5 2001/07/22 11:29:46 wiz Exp $
  34  */
  35
  36 #include <sys/cdefs.h>
  37 __FBSDID("$FreeBSD$");
  38
  39 #include <sys/param.h>
  40 #include <sys/proc.h>
  41 #include <sys/systm.h>
  42 #include <sys/limits.h>
  43
  44 #include <machine/altivec.h>
  45 #include <machine/pcb.h>
  46 #include <machine/psl.h>
  47
  48 static void
  49 save_vec_int(struct thread *td)
  50 {
  51         int     msr;
  52         struct  pcb *pcb;
  53
  54         pcb = td->td_pcb;
  55
  56         /*
  57          * Temporarily re-enable the vector unit during the save
  58          */
  59         msr = mfmsr();
  60         mtmsr(msr | PSL_VEC);
  61         isync();
  62
  63         /*
  64          * Save the vector registers and VSCR to the PCB
  65          */
  66 #define STVX(n)   __asm ("stvx %1,0,%0" \
  67                 :: "b"(pcb->pcb_vec.vr[n]), "n"(n));
  68         STVX(0);        STVX(1);        STVX(2);        STVX(3);
  69         STVX(4);        STVX(5);        STVX(6);        STVX(7);
  70         STVX(8);        STVX(9);        STVX(10);       STVX(11);
  71         STVX(12);       STVX(13);       STVX(14);       STVX(15);
  72         STVX(16);       STVX(17);       STVX(18);       STVX(19);
  73         STVX(20);       STVX(21);       STVX(22);       STVX(23);
  74         STVX(24);       STVX(25);       STVX(26);       STVX(27);
  75         STVX(28);       STVX(29);       STVX(30);       STVX(31);
  76 #undef STVX
  77
  78         __asm __volatile("mfvscr 0; stvewx 0,0,%0" :: "b"(&pcb->pcb_vec.vscr));
  79
  80         /*
  81          * Disable vector unit again
  82          */
  83         isync();
  84         mtmsr(msr);
  85
  86 }
  87
  88 void
  89 enable_vec(struct thread *td)
  90 {
  91         int     msr;
  92         struct  pcb *pcb;
  93         struct  trapframe *tf;
  94
  95         pcb = td->td_pcb;
  96         tf = trapframe(td);
  97
  98         /*
  99          * Save the thread's Altivec CPU number, and set the CPU's current
 100          * vector thread
 101          */
 102         td->td_pcb->pcb_veccpu = PCPU_GET(cpuid);
 103         PCPU_SET(vecthread, td);
 104
 105         /*
 106          * Enable the vector unit for when the thread returns from the
 107          * exception. If this is the first time the unit has been used by
 108          * the thread, initialise the vector registers and VSCR to 0, and
 109          * set the flag to indicate that the vector unit is in use.
 110          */
 111         tf->srr1 |= PSL_VEC;
 112         if (!(pcb->pcb_flags & PCB_VEC)) {
 113                 memset(&pcb->pcb_vec, 0, sizeof pcb->pcb_vec);
 114                 pcb->pcb_flags |= PCB_VEC;
 115         }
 116
 117         /*
 118          * Temporarily enable the vector unit so the registers
 119          * can be restored.
 120          */
 121         msr = mfmsr();
 122         mtmsr(msr | PSL_VEC);
 123         isync();
 124
 125         /*
 126          * Restore VSCR by first loading it into a vector and then into VSCR.
 127          * (this needs to done before loading the user's vector registers
 128          * since we need to use a scratch vector register)
 129          */
 130         __asm __volatile("vxor 0,0,0; lvewx 0,0,%0; mtvscr 0" \
 131                           :: "b"(&pcb->pcb_vec.vscr));
 132
 133 #define LVX(n)   __asm ("lvx " #n ",0,%0" \
 134                 :: "b"(&pcb->pcb_vec.vr[n]));
 135         LVX(0);         LVX(1);         LVX(2);         LVX(3);
 136         LVX(4);         LVX(5);         LVX(6);         LVX(7);
 137         LVX(8);         LVX(9);         LVX(10);        LVX(11);
 138         LVX(12);        LVX(13);        LVX(14);        LVX(15);
 139         LVX(16);        LVX(17);        LVX(18);        LVX(19);
 140         LVX(20);        LVX(21);        LVX(22);        LVX(23);
 141         LVX(24);        LVX(25);        LVX(26);        LVX(27);
 142         LVX(28);        LVX(29);        LVX(30);        LVX(31);
 143 #undef LVX
 144
 145         isync();
 146         mtmsr(msr);
 147 }
 148
 149 void
 150 save_vec(struct thread *td)
 151 {
 152         struct pcb *pcb;
 153
 154         pcb = td->td_pcb;
 155
 156         save_vec_int(td);
 157
 158         /*
 159          * Clear the current vec thread and pcb's CPU id
 160          * XXX should this be left clear to allow lazy save/restore ?
 161          */
 162         pcb->pcb_veccpu = INT_MAX;
 163         PCPU_SET(vecthread, NULL);
 164 }
 165
 166 /*
 167  * Save altivec state without dropping ownership.  This will only save state if
 168  * the current vector-thread is `td'.
 169  */
 170 void
 171 save_vec_nodrop(struct thread *td)
 172 {
 173         struct thread *vtd;
 174
 175         vtd = PCPU_GET(vecthread);
 176         if (td != vtd) {
 177                 return;
 178         }
 179
 180         save_vec_int(td);
 181 }